c S

Načelo nediskriminacije pri uporabi umetne inteligence v pravosodnih sistemih

14.10.2024 Umetna inteligenca (UI) se je v zadnjih desetletjih razvila v eno ključnih orodij sodobne družbe, saj njen vpliv sega od gospodarskih sektorjev do vsakodnevnega življenja posameznikov. Njen hiter razvoj in implementacija v različne sfere družbenega življenja sta povzročila pravi tehnološki prelom, ki je preoblikoval številne tradicionalne procese.

Uvaja se jo tudi v pravosodje. V zadnjih letih smo priča naraščajočemu zanimanju za uporabo UI pri analiziranju pravnih dokumentov, napovedovanju sodnih izidov in celo pri oblikovanju sodnih odločitev. UI ponuja številne prednosti, kot so hitrost, učinkovitost in sposobnost obdelave velikih količin podatkov, ki presegajo zmožnosti posameznega sodnika.

Kljub številnim prednostim, ki jih umetna inteligenca prinaša v pravosodje, pa se z njeno uporabo odpirajo številna vprašanja o spoštovanju temeljnih pravic in etičnih standardov. Da bi zagotovili ustrezen okvir za uporabo UI v pravosodju in na drugih področjih, je bila sprejeta vrsta številnih pravnih regulacij in smernic, ki poskušajo opredeliti meje in načela uporabe teh naprednih tehnologij, med drugim:

- Uredba o splošni zaščiti podatkov (GDPR) 2016/679,

- Bela knjiga o umetni inteligenci (Evropska komisija),1

- predlog Uredbe o umetni inteligenci COM/2021/206,2

- Uredba o kibernetski varnosti EU 2019/881,3

- Etične smernice za zaupanja vredno umetno inteligenco,4

- Akcijski načrt za digitalno izobraževanje (2021–2027).5

Pomemben korak na tem področju predstavlja Evropska etična listina o uporabi umetne inteligence v pravosodnih sistemih6 in njihovem okolju, ki jo je sprejel CEPEJ,7 delovno telo Sveta Evrope. To je prvi dokument, ki celovito naslavlja izzive in priložnosti uporabe umetne inteligence v pravosodju. Čeprav listina ni pravno zavezujoča, ima močan politični vpliv in postavlja ključne smernice za etično in pravično uporabo UI v prihodnosti pravosodnih postopkov.

Listina izpostavlja pet etičnih načel:

1. načelo spoštovanja temeljnih pravic,

2. načelo nediskriminacije,

3. načelo kakovosti in varnosti,

4. načelo preglednosti, nepristranskosti in pravičnosti ter

5. načelo »pod nadzorom uporabnika«.

Najverjetneje je ravno zaradi teže posledic napak v pravosodju spoštovanje teh načel precej zahtevno, še posebej načela nediskriminacije, ki je podrobneje razčlenjeno takole:

»Ker lahko te metode obdelave z združevanjem ali razvrščanjem podatkov, ki se nanašajo na posameznike ali skupine posameznikov, razkrijejo obstoječo diskriminacijo, morajo javni in zasebni deležniki zagotoviti, da te metode ne reproducirajo ali povečujejo takšne diskriminacije in da ne vodijo k determinističnim analizam ali uporabi.«

UI v pravosodju

Umetna inteligenca (UI) se danes uporablja v različnih fazah sodniških postopkov, pri čemer vsaka faza vključuje specifične primere uporabe:

1. Preiskava in zbiranje dokazov: Algoritmi strojnega učenja lahko pomagajo pri analizi velikih količin podatkov, kot so elektronska sporočila in dokumenti, ter pri identifikaciji relevantnih informacij. Na primer orodje TAR (Technology Assisted Review) se pogosto uporablja pri pregledovanju dokumentov v okviru odkrivanja dejstev. TAR omogoča učinkovitejše in natančnejše pregledovanje dokumentov, kar pospešuje pravne postopke in zmanjšuje stroške.8

2. Priprava zadev in analiziranje pravnih vprašanj: UI sistemi, kot je ROSS Intelligence, uporabljajo naravni jezik za iskanje pravnih precedensov in pripravo pravnih analiz, s čimer pomagajo odvetnikom pri pripravi primerov. ROSS Intelligence omogoča hiter dostop do relevantnih pravnih informacij in precedensov, kar izboljšuje kakovost pravnega svetovanja in povečuje učinkovitost pravnih ekip.9

3. Sodni postopki: Med sodnimi postopki lahko UI pomaga pri analiziranju sodne prakse in napovedovanju izidov na podlagi preteklih primerov. Primer takega sistema je COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), ki pomaga pri oceni tveganja ponovitve kaznivih dejanj. COMPAS uporablja statistične modele za oceno tveganja, kar omogoča sodnikom sprejemanje bolj informiranih odločitev glede pogojnih izpustov in drugih sankcij.10

Uporaba UI v pravosodju prinaša številne prednosti, kot so povečana učinkovitost, natančnost in pravičnost pravnih postopkov. Kljub temu je ključno, da se pri uporabi UI dosledno upoštevajo etična načela, zlasti načelo nediskriminacije, da bi se izognili morebitnim negativnim posledicam za posameznike in družbo kot celoto.

Prepoved diskriminacije

Leta 1952 je bostonski simfonični orkester uvedel t. i. slepe avdicije, da bi povečal število žensk v orkestru. Čeprav so ocenjevalci glasbenike poslušali skozi zaveso, ki je zakrivala njihovo identiteto, se je število žensk v orkestru povečalo le za nekaj odstotkov. Nato so glasbenike prosili, naj sezujejo svoje čevlje, in šele takrat se je delež žensk med izbranimi glasbeniki izenačil z deležem moških. Domneva se, da so ocenjevalci podzavestno prepoznali in pristransko ocenili ženske na podlagi zvoka visokih pet, ki so jih nosile.11

Ta primer, skupaj s številnimi drugimi raziskavami, poudarja, kako globoko je zakoreninjena podzavestna pristranskost. Tudi kadar se ljudje zavestno trudimo biti nepristranski, smo v resnici še vedno daleč od tega ideala.

Družbena želja po zmanjšanju diskriminacije se močno odraža tudi v pravnem okviru. Vrsta mednarodnih in domačih pravnih norm prepoveduje diskriminacijo, med njimi 14. člen Evropske konvencije o človekovih pravicah (EKČP), 2. člen Pogodbe o Evropski uniji, 21. in 23. člen Listine Evropske unije o temeljnih pravicah ter 14. člen Ustave Republike Slovenije. Te pravne določbe prepovedujejo tako neposredno kot posredno diskriminacijo.

Prepoved diskriminacije je tesno povezana tudi s pravico do sodnega varstva. Številne mednarodne in domače listine, kot so 23. člen (pravica do sodnega varstva) in 22. člen (pravica do sodnega varstva) Ustave RS, 6. člen EKČP (pravica do poštenega sojenja), 13. člen EKČP (pravica do učinkovitega pravnega sredstva) in 47. člen Listine EU (pravica do učinkovitega pravnega sredstva in nepristranskega sodišča), zagotavljajo, da ima vsakdo pravico do nepristranskega in poštenega sodnega postopka, ki je zaščiten pred kakršnokoli obliko diskriminacije.

Ta pravni okvir ne le prepoveduje diskriminacijo, temveč tudi poskuša zagotavljati, da so vsi, ne glede na osebne značilnosti, deležni enakih pravic in pravnega varstva, kar krepi zaupanje v pravosodni sistem in družbeno pravičnost.

Pojem nepristranskosti vključuje dva ključna vidika: subjektivni in objektivni. Subjektivni vidik se nanaša na notranjo naravnanost sodnika do konkretnih dejstev in strank v posameznem postopku. Pri tem sodniku priznamo, da lahko ima svoja osebna mnenja in nazore, saj bi bilo nerealno pričakovati popolno odsotnost osebnih prepričanj. Vendar pa od sodnika pričakujemo, da ta osebna prepričanja ne vplivajo na njegovo strokovno odločitev.12

Objektivni vidik nepristranskosti pa se osredotoča na to, kako sodnika dojemajo drugi. Gre za vtis, ki ga sodnik ustvarja v javnosti in pri udeležencih v postopku, kar pomeni, da mora sodnik delovati na način, ki pri povprečnem opazovalcu zagotavlja zaupanje v njegovo nepristranskost.13

Čeprav naj bi subjektivni del preverjal notranja nagnjenja sodnika, se to ugotavlja predvsem preko zunanjih, vidnih signalov, kot so izrečene besede, govorica telesa in vedênje v konkretni zadevi.14 Ne Evropsko sodišče za človekove pravice (ESČP) ne Sodišče Evropske unije (PEU) ne domača sodišča ne predvidevajo pregleda sodnikovih odločitev na kvantitativni ravni, saj do zdaj kvalitetna izvedba takšne analize ni bila mogoča.

Z napredkom umetne inteligence (UI) se razvijajo številna orodja, ki omogočajo zaznavanje pristranskosti v sodniških odločitvah. Eden najvidnejših primerov je model Pre/Dicta, ki analizira približno 120 podatkovnih točk, vključno z zgodovino odločanja sodnikov in njihovimi biografskimi podatki, da bi napovedal, kako bodo sodniki odločali v civilnih primerih. Takšni modeli, ki postajajo vse bolj priljubljeni v ZDA, pravnikom in strankam omogočajo, da že pred začetkom sojenja ocenijo, ali je sodnik verjetno naklonjen določeni vrsti argumentov ali strankam, kar lahko pomembno vpliva na pravne strategije.15

Raziskave na tem področju so pokazale, da lahko umetna inteligenca razkriva vzorce pristranskosti, ki izhajajo iz sodnikovega demografskega ozadja, političnih preferenc ali drugih osebnih značilnosti. S tem orodja, kot je Pre/Dicta, prispevajo k večji transparentnosti v pravosodju in omogočajo bolj premišljeno pripravo pravnih strategij, hkrati pa odpirajo vprašanja o tem, kako te tehnologije vplivajo na nepristranskost in pravičnost sodnih procesov.16

Primeri modelov UI, ki se učijo iz sodnih odločb

Poleg navedenega primera obstaja danes še vrsta drugih modelov umetne inteligence, ki so se učili na podatkih iz sodnih odločb. Tako na državni kot na zasebni ravni se uporabljajo različni sistemi UI, ki pripomorejo k boljši učinkovitosti in informiranosti v pravosodju...

Nadaljevanje članka za naročnike >> Maruša Škrjanc: Načelo nediskriminacije pri uporabi umetne inteligence v pravosodnih sistemih

>> ali na portalu Pravna praksa, št. 34, 2024

>> Še niste naročnik? Preverite uporabniške pakete!

-------------------------------

Opombe:
12 Komisija za etiko in integriteto: Kodeks sodniške etike komentar, Sodni svet, št. 4/2016-3, januar 2017, str. 22, http://www.sodni-svet.si/images/stories/Kodeks_sodniske_etike_komentar_sept_2017.pdf.
13 Prav tam, str. 22.
14 Prav tam, str. 22–29.
16 Prav tam.


Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.