Kaj se zgodi, ko vam tehtnica vsako jutro pokaže natančno pet kilogramov preveč? Prvih nekaj dni ste verjetno slabe volje, nato pa se prilagodite. Veste, kje ste. Napaka je sistemska, predvidljiva in – kar je ključno – obvladljiva. V vedenjski ekonomiji temu pravimo pristranskost (bias). Kaj pa, če je tehtnica nepredvidljiva? En dan vam ulije lažno upanje in pokaže tri kilograme premalo, naslednjič vas brez opozorila »kaznuje« s sedmimi kilogrami preveč. Takšni tehtnici ne boste nikoli zaupali. Njena težava ni v napačni nastavitvi, temveč v variabilnosti. To je šum (noise).
Prav tu se pokaže paradoks našega odnosa do napak, na katerega v svoji zadnji knjigi An Imperfect Oracle (2025) opozarja Cass Sunstein. Ljudje smo pripravljeni sprejeti pogoste in očitne človeške napake, algoritmu pa ne odpustimo niti ene same. Ko se zmoti človek, govorimo o pomoti, ko se zmoti umetna inteligenca, govorimo o »halucinaciji«. Čeprav so samovozeči avtomobili statistično že danes varnejši od človeških voznikov, ena sama nesreča zadostuje za mednarodno novico in splošen strah. To je algoritmična averzija (algorithm aversion). Od stroja pričakujemo brezmadežnost, človeku pa dovolimo, da je zgolj človek.
Človeško odločanje je neizbežno obremenjeno s hevristikami. Sodniki niso nobena izjema. Kahnemanova lekcija je jasna: ločiti moramo med pristranskostjo in šumom. Pristranskost pomeni sistematično odstopanje v eno smer. Ne gre za naključje, temveč za vzorec. Isti tip primerov praviloma dobi strožjo ali milejšo obravnavo. Takšno napako konceptualno znamo prepoznati in se ji celo upreti.
Šum pa je bistveno bolj zahrbten. Gre za variabilnost odločanja, ki nima zveze s pravom ali dejstvi primera. Isti primer lahko dobi drugačen izid zaradi zaporedja zadev, procesnih rutin, implicitnih primerjav ali povsem naključnih okoliščin odločanja. Prav v tem je problem: razlika v odločitvi ni normativno utemeljena, temveč kontingentna. In kar je ključno: tudi če bi iz sistema čudežno odstranili vse pristranskosti, bi ta še vedno proizvajal neenakost odločanja, dokler bi bil šum visok.
Tu nastopi ključna prednost algoritmov: njihova raven šuma je enaka nič. Ob enakih vhodnih podatkih bodo vedno podali enak rezultat. Ne utrudijo se, ne razjezijo se in ne kaznujejo strožje pred kosilom kot po njem. To seveda ne pomeni, da so algoritmi brez pristranskosti – lahko so celo močno diskriminatorni. A to je druga vrsta problema. Pristranskost v kodi je načeloma vidna, merljiva in popravljiva. Šum v človeški presoji pa je razpršen, neviden in kar je morda najpomembnejše, socialno normaliziran.
Večjo natančnost algoritmičnega odločanja je že leta 2018 dokazovala zanimiva empirična študija Kleinberga in soavtorjev. Pri odločanju o varščini in priporu so algoritmi strojnega učenja ob uporabi istih podatkov kot sodniki sprejemali boljše odločitve. Ne zato, ker bi bili pametnejši, temveč zato, ker so bili doslednejši. Z uporabo algoritmičnih priporočil bi bilo mogoče bodisi ob enakem številu priporov zmanjšati stopnjo kriminala za približno četrtino bodisi ob nespremenjeni stopnji kriminala bistveno zmanjšati število zaprtih oseb. Povprečni sodnik tega ne doseže. Deloma zato, ker pogosto izpusti obtožence z zelo visokim tveganjem, hkrati pa pripre tiste z nizkim tveganjem. Algoritem teh napak ne dela. Ne zato, ker bi bil boljši, temveč zato, ker je dosleden.
Evropski podatki so redkejši in pravni standardi drugačni, zato neposredne primerjave niso enostavne. Kljub temu retrospektivne študije na podatkih Evropskega sodišča za človekove pravice kažejo, da je mogoče izid zadev napovedovati z relativno visoko (79 %) natančnostjo. Vse to kaže v isto smer: pri napovedovanju tveganj so algoritmi v povprečju boljši od ljudi.
Če so algoritmi lahko tako uspešni, se postavi očitno vprašanje: zakaj sodnikov preprosto ne bi zamenjali s programsko opremo oziroma z algoritmi? Odgovor ni v točnosti, temveč v legitimnosti.
Sodna odločitev ni zgolj rezultat optimizacijskega problema. Je del postopka, v katerem imajo stranke glas, v katerem se dajejo razlogi in v katerem je nekdo osebno odgovoren za odločitev. Algoritem ne zna pojasnjevati na način, ki bi bil pravno in simbolno sprejemljiv. Ne more se opravičiti. Ne more nositi odgovornosti.
Ljudje so pripravljeni sprejeti tudi neugoden izid, če imajo občutek, da so bili v postopku slišani in obravnavani resno. V evropski pravni tradiciji to ni psihološki dodatek, temveč temeljna procesna zahteva. Odločitev oblasti mora biti obrazložena, razumljiva in pripisana konkretni odgovorni osebi. Algoritem, ki zgolj izvede binarno odločitev, tega standarda ne izpolnjuje. Potrebujemo človeka, ki zna rezultat pretvoriti v pravni razlog, ga umestiti v normativni okvir in ga prevzeti nase. Brez tega pravo izgubi smisel in se spremeni v tehnični postopek brez legitimnosti.
Zato popolna delegacija odločanja na algoritme ni le tehnično, temveč ustavnopravno vprašanje. Ne zato, ker bi bili algoritmi premalo natančni, temveč zato, ker bi bil postopek brez človeškega nosilca težko prepoznan kot pravičen. Ljudje morajo imeti občutek, da so bili slišani – tudi takrat, ko izgubijo.
Pravo je proces, ki mora biti ne le pravičen, temveč tudi viden kot pravičen. To razliko pravo jemlje resno že stoletja.
Eden od temeljev legitimnosti je proceduralna pravičnost. Pravica do izjave ni zgolj procesna formalnost, temveč izraz dostojanstva. Algoritem pri tem odpove. Ne zato, ker bi bil nujno napačen, temveč zato, ker ne zna poslušati. Odločitev, sprejeta brez glasu, brez dialoga in brez človeškega stika, se hitro zdi arbitrarna – tudi takrat, ko je statistično pravilna.
Drugi temelj je obveznost obrazložitve. Evropska pravna tradicija temelji na razlogih. Sodba brez obrazložitve ni sodba. Razlogi niso le tehnična razlaga, temveč moralna in pravna utemeljitev uporabe oblasti. Črne skrinjice umetne inteligence tega ne morejo nadomestiti. Tudi najbolj natančen algoritem ne zna pojasniti, zakaj je neka odločitev pravična – in prav to od prava pričakujemo.
Sunstein v tem kontekstu opozarja še na zanimivo podrobnost. Čeprav algoritmi v povprečju premagajo veliko večino sodnikov, najboljši sodniki algoritme pogosto prekašajo. Ta majhna skupina ne izstopa po intuiciji, temveč po dodatnih informacijah, lokalnem znanju in sposobnosti, da zazna tisto, česar v podatkih ni. Prav ti primeri kažejo, zakaj popolna avtomatizacija ni odgovor.
Največja ovira pri uvajanju umetne inteligence v sodstvo ni tehnologija, temveč ego. Empirične študije (Angelova et al., 2023) kažejo, da sodniki algoritmična priporočila pogosto preglasujejo – ne zaradi boljših podatkov, temveč zaradi dokazovanja lastne nepogrešljivosti. Gre za klasično past ugleda: nihče noče biti le dobro plačan administrator, ki potrjuje odločitve programa. Rezultat je strateški nesmisel, saj je v 90 % primerov odločitev sodnika po preglasovanju statistično slabša od tiste, ki jo je predlagal stroj. S tem v sistem zgolj ponovno uvajamo šum, ki smo ga s tehnologijo že uspeli nevtralizirati.
To je klasična past ugleda. Slabši sodniki posnemajo najboljše – ne zato, ker bi imeli njihovo znanje, temveč zato, ker želijo njihov status. Preglasovanje algoritma tako pogosto ni izraz boljše presoje, temveč poskus dokazovanja lastne nepogrešljivosti.
Prav zato Sunstein predlaga hibridni model, ki sodniku dopušča odstop od algoritmičnega izhodišča, vendar pod jasnim pogojem: tak odstop mora biti pisno obrazložen in utemeljen s konkretnimi razlogi. Algoritem ni absolutna avtoriteta, je pa privzeta referenčna točka. Če jo želi sodnik zavestno preseči, mora pojasniti, zakaj.
Takšna ureditev deluje na več ravneh hkrati. Sodnika prisili, da se ustavi in preide iz intuitivnega, avtomatskega razmišljanja v počasnejšo, premišljeno presojo. Hkrati naredi simbolno signaliziranje drago: odstopi, ki temeljijo zgolj na egu ali občutku, postanejo vidni in preverljivi. In končno – ohrani tisto, kar je v pravu ključno: človeško odgovornost, razloge in možnost nadzora.
Prihodnost prava zato verjetno ni v bitki med človekom in strojem, temveč v preobrazbi same narave sodniškega dela. Stroj v tem procesu prevzame vlogo filtra, ki iz pravne države odstrani naključni šum in ponavljajoče se napake. Človek pa ostane tam, kjer podatkovni modeli utihnejo – pri tehtanju izjem, kompleksnih vrednostnih konfliktih in situacijah, ki jih preteklost ni mogla predvideti.
Morda se bo izkazalo, da je tisto, čemur danes pravimo »človeški dejavnik«, v veliki meri le šum, ki smo ga pripravljeni tolerirati zaradi pomanjkanja boljših orodij. Ko ta orodja dobimo, vprašanje ni več, ali so algoritmi popolni – ker niso. Vprašanje je, ali je tisto, kar ostane po njihovi uvedbi, bolj predvidljivo in dosledno od obstoječe ravni variabilnosti odločanja. Odločitev za hibridni model tako ni moralna izbira, temveč logična posledica spoznanja, da je naša intuicija pogosto slabša od naših podatkov.
Pri tem pa je vendarle treba dodati, da je potrebno to razpravo v slovenskem kontekstu brati z zadržkom. Brez digitalnih spisov, brez doslednih podatkovnih baz in brez osnovne podatkovne infrastrukture algoritmično odločanje danes ni realna možnost. A prav zato je razmislek o njegovih učinkih pomemben že v tej fazi: ne kot tehnični projekt, temveč kot miselni eksperiment o mejah človeške presoje in institucionalne racionalnosti.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.
