Se vam v domačem gospodinjstvu pogosto zgodi, da kljub drugačnemu dogovoru s partnerjem le na hitro posesate ali nedosledno počistite kopalnico z mislijo, da je vse OK, ker bo naslednji teden za isto delo na vrsti drugi partner? Ste v zadnjih mesecih pozorno spremljali debato o t. i. dvojni rabi obrambnega proračuna? Ali res še nikoli niste razmišljali o načinih razpolaganja s premoženjem, ki bi zmanjšali vašo davčno obveznost? Ste vsaj v času študija prepisali del izpita od soseda ali se z njim posvetovali o pravilnem odgovoru?
V modernih družbah, še posebej na področju prava, goljufanje pogosto razumemo kot moralni zdrs, a če pogledamo širše, lahko kaj kmalu ugotovimo, da gre za povsem pričakovan in pogost pojav, ki v svojem evolucijskem bistvu ni anomalija, temveč naraven izziv vsakega sistema, ki temelji na sodelovanju. Izraz goljufanje ima tako zelo negativno konotacijo, da sem kar precej časa brskal za alternativni izraz, ki bi pomensko omilil pojav, ki ga želim v tej kolumni opisati. Najbližji izrazi, ki mi jih je ponudila generativna umetna inteligenca, so odstopanje, iskanje bližnjic, preračunljivost.
Tokratna kolumna ima dva dela. V prvem delu želim pojasniti morda na prvi pogled presenetljivo dejstvo, da je »odstopanje od pravil« oziroma kar »goljufanje« evolucijsko dejstvo, ki se pojavlja na vseh nivojih živih bitij, v drugem delu pa opisati, kakšne možnosti imamo kot družba, da se na to dejstvo ustrezno odzovemo.
Na to, da je goljufanje evolucijsko dejstvo, me je prvi opomnil dober prijatelj Marko Blažič, sicer doktor mikrobiologije, ki je na konferenci Aktualna vprašanja insolvenčnega prava leta 2024 izvedel zelo zanimivo predavanje o socialnem življenju bakterij. Ključni del tega predavanja je bilo, da tudi na ravni bakterij obstaja socialno življenje, saj bakterije za svoj obstoj potrebujejo sodelovanje. Najbolj značilen primer je oblikovanje biofilmov, ki jim omogočajo boljšo rezistenco pred sovražniki (na primer antibiotiki; v ekonomskem jeziku: javne dobrine). Izdelava takšnih biofilmov je za bakterije draga, saj morajo pomemben del svoje energije in hrane nameniti izdelavi tega filtra. Raziskave kažejo, da se tudi v takšnih skupnostih pojavijo bakterije, ki ne prispevajo k skupnemu dobremu, ampak izkoriščajo sodelovanje ostalih bakterij, ki prispevajo k skupnemu dobremu in si s tem pridobijo prednost (prosti jezdeci ali free riders). Ko takšnih izkoriščevalskih bakterij postane preveč, skupnost oslabi, zato se v naravi vzpostavi ravnovesje med sodelujočimi in izkoriščevalci – evolucija torej goljufanja ne kaznuje, ampak ga vgradi kot del svojega ravnotežja. Povedano drugače: goljufanje lahko razumemo kot pričakovan rezultat darvinistične optimizacije in ne kot odklon ali napako sistema. Takšnih primerov je v naravi seveda še izjemno veliko, a primer z najpreprostejšimi bitji, kot so bakterije, in njihovim »socialnim« življenjem se mi je zdel še posebej zanimiv.
Zelo podobno sporočilo je nazorno in jasno opisal Garrett Hardin v znamenitem delu Tragedija skupnega leta 1968. Hardin je na podlagi izzivov okoljskega prava predstavil problem skupnega delovanja, ki ga teorija iger preučuje kot situacijo, v kateri racionalne odločitve posameznikov vodijo do dolgoročne škode za skupnost. Pomemben Hardinov sklep je, da ima v okviru »skupnosti« vsak posameznik spodbudo, da »goljufa« oziroma pretirano izkorišča skupni vir, saj je njegova osebna korist večja od tistega dela skupne škode, ki ga sam nosi.[1] Tudi Hardinova teorija nam torej pojasnjuje, zakaj goljufanje ni nerazumno, ampak z vidika posameznika pogosto celo optimalna strategija. Hardin prav tako pojasni, da takšno ravnanje vodi v položaj, da se vsi kot skupnost znajdemo na slabšem. Prav teorija iger, ki temelji na racionalnih posameznikih, nam pojasni, zakaj se vsi pogosto znajdemo v situacijah, opisanih v uvodu, torej v situacijah, v katerih je naša optimalna strategija »iskanje bližnjic«. Pomembna razlika med naukom iz tragedije skupnega in evolucijo bakterij je po Hardinovem mnenju v tem, da v človeški družbi »nesodelovanje« in kar »goljufanje«, ki sta lahko individualno optimalna strategija, dolgoročno vodita v družbeno neoptimalno stanje ali celo propad. Zato to situacijo označi za tragedijo in nas skuša opozoriti, da vendarle potrebujemo pravne ali druge družbene mehanizme, ki bodo izravnali individualne in skupinske preference.
Neposreden povod za pisanje o goljufanju kot optimalni strategiji pa je članek, ki sem ga pred kratkim prebral v reviji Time.[2] Avtor v njem opisuje presenetljiv pojav, da napredni sistemi umetne inteligence spontano razvijajo vedenje, ki spominja na goljufanje. V poskusu iz leta 2025 so raziskovalci model umetne inteligence soočili z računalniškim šahovskim programom Stockfish in mu preprosto naročili, naj zmaga. Namesto da bi izgubil ali igral po pravilih, je model sam odkril, da lahko »zmaga« tako, da spremeni datoteko z nastavitvami igre – torej manipulira s sistemom in se postavi v zmagovalni položaj. Ključno spoznanje je, da UI tega ni storil iz zlobe ali namena, ampak ker je racionalno sledil svojemu cilju: maksimirati rezultat po danih pravilih nagrajevanja. Ker v pravilih ni bilo izrecno zapisano, da manipulacija sistema ni dovoljena, je to razumel kot dovoljen način za dosego zmage. Članek s tem opozarja, da je »goljufanje« pri UI naravna posledica logike optimizacije in da generativna UI zaradi tega počne točno to, kar evolucija in ekonomija predvidevata: generativna UI je iskala nedovoljeno prednost (goljufijo), ki ji prinaša prednost. Zato je tudi v okviru regulacije generativne UI izrazito pomembno, da najdemo načine, ki eksplicitno omejujejo njeno ravnanje, kadar ravna v nasprotju z družbenimi pravili. Raziskovalci umetne inteligence se že danes pospešeno ukvarjajo s tem, kako omejiti »goljufivo« vedenje sistemov. Eden od pristopov je, da UI že v fazi učenja jasno določi meje in kazni za neželeno ravnanje – da torej ne išče zmage z manipulacijo pravil. Drugi pristop je večja preglednost: modeli dobijo t. i. peskovnik oziroma prostor, kjer raziskovalci lahko spremljajo njihov način razmišljanja in pravočasno zaznajo sporne poteze. Tretji pa vključuje t. i. stresno testiranje, pri čemer razvijalci sami iščejo potencialne zlorabe in jih preprečijo, še preden jih odkrije UI. Toda z rastjo kompleksnosti sistemov postaja popoln nadzor čedalje težji – primer šahovske »goljufije« kaže, da napredna UI lahko nepričakovano postane heker svojega lastnega okolja.
Če je goljufanje torej neizogiben del sistemov, ki temeljijo na spodbudah, ga ni mogoče izkoreniniti, temveč le obvladovati. Rešitev je v pametnem oblikovanju institucij – v pravilih in normah, ki uskladijo osebne koristi z dolgoročnim preživetjem skupnosti ter omogočijo ravnovesje med sodelovanjem in občasnim odstopanjem. V nadaljevanju orisujem nekaj tipičnih možnosti institucionalnega odziva.
Najbolj tipičen in pričakovan institucionalni odziv na odstopanje od družbeno optimalne strategije so seveda pravna pravila, torej pravila, ki optimalno strategijo posameznika s prepovedmi ali zapovedmi omejujejo in s sankcijami približujejo k optimalni strategiji družbe kot celote. Namen pravnih pravil je skratka oblikovanje sistema, ki posamezniku otežijo ali podražijo goljufanje. Bistvo pravnih pravil ni popolna pravičnost, temveč odprava napačnih spodbud. Takšna pravila torej ne pričakujejo idealnega vedenja, ampak poskrbijo, da se optimalna strategija posameznika približuje optimalni strategiji skupnosti. Pri tem seveda predpostavljamo pomembno, a pogosto nerealno predpostavko, in sicer, da tisti, ki pravila postavlja, sploh ve oziroma razume, kaj je optimalna strategija za skupnost kot tako.
Če prva strategija predpostavlja predvsem pravna pravila, ki zapovedujejo oziroma omejujejo vedenje posameznika, je druga strategija povezana s samo »spremembo igre«, in sicer, da s pravnimi pravili ali ekonomsko realnostjo poskušamo uskladiti spodbude in s tem približati optimalne strategije posameznikov in družbe. Primere takšnih strategij poznamo v razmerjih agenta in principala (sistemi nagrajevanja poslovodstva in/ali delavcev v gospodarskih družbah), v zavarovalniškem pravu (sistem bonusov in malusov ter odbitnih franšiz), poznamo tudi participativne proračune, posle BOT (build-operate-transfer) in podobno.
Tudi strategije doseganja spoštovanja postavljenih pravnih pravil se med seboj lahko pomembno razlikujejo. Pri tem ima še vedno zelo pomembno vlogo klasični princip sistema nadzora in sankcij, ki nespoštovanje pravnih pravil oziroma goljufanje naredi dovolj tvegano, da se ga večina ne loti. V modernih sistemih se učinkovitost pravnega sistema tako še vedno meri prek vprašanja učinkovitosti nadzora in sankcioniranja. Po drugi strani pa ne smemo zanemariti tudi mehkejših mehanizmov, ki temeljijo na zaupanju in ugledu. Namesto stalnega nadzora sistem gradi kulturo, v kateri je poštenost privzeto pričakovanje, goljufanje pa sramotno. Pogodbeno pravo s tem ciljem zahteva ravnanje v dobri veri, različna združenja uporabljajo častne in etične kode. Takšni normativni okviri ne preprečujejo vseh zlorab, a bistveno povečajo psihološko in ugledno ceno nepoštenosti – ker včasih največja kazen ni globa, temveč izgubljeno zaupanje drugih. Ugled je tradicionalno ena najstarejših in najučinkovitejših oblik nadzora; to še zlasti velja, kadar gre za družbena razmerja, ki so zunaj dosega prava. Že v srednjeveških trgovskih cehih tisti, ki je prevaral partnerja, drugič ni več dobil kupca. Današnji svet to logiko formalizira z ocenami na e-platformah, kreditnimi točkami in poklicnimi licencami. Sistem, ki omogoča kroženje informacij o ravnanju posameznikov, lahko delno učinkovito nadomešča temeljni pravni nadzor – in, kar je bistveno, samointeres preobrača v mehanizem poštenosti.
Institucija in družbeni sistemi se z goljufanjem torej spopadajo na več ravneh: s pravili in sankcijami, s spremenjenimi spodbudami, z nadzorom, z vzgojo za spoštovanje etičnih norm ter z mehanizmi ugleda in preglednosti. Vsi ti pristopi ne predvidevajo popolne poštenosti, temveč priznavajo človeški interes za lastno korist in ga poskušajo usmeriti v ravnotežje, v katerem se sodelovanje bolj izplača kot izigravanje.
Goljufanje – od bakterij, ki izkoriščajo sosednje celice, do poslovnih partnerjev, ki kršijo dogovore, ali umetne inteligence, ki izkoristi napako v kodi – je neizogibna senca sodelovanja. Pojavi se povsod, kjer posameznik z obvozom pravil lahko pridobi več, kot bi mu pripadalo. Namesto da bi ga razumeli kot moralni spodrsljaj, bi ga morali obravnavati kot strukturni pojav – kot pričakovano in ponovljivo reakcijo na neusklajenost med zasebnimi koristmi in skupnim dobrim. Goljufanje ni anomalija, temveč opozorilo, da sistem potrebuje popravke.
Ključno vprašanje torej ni, zakaj ljudje, podjetja ali algoritmi goljufajo, temveč, kako zgraditi pravne, družbene in tehnološke sisteme, ki to prenesejo, ne da bi se sesuli. Narava pozna lastne obrambe: evolucija razvija mehanizme nadzora, skupnosti vzpostavljajo dogovorjeno prisilo in družbene norme, pravo usklajuje kazen z razumom, ugled in ponovljene interakcije pa dolgoročno vzdržujejo poštenje. Tudi pri umetni inteligenci postajata preglednost in sledljivost nova oblika »institucionalne morale«. Vsi ti pristopi imajo enako logiko: povezati posameznikov interes z zdravjem skupnosti ali pa povečati stroške odstopanja.
Popolne družbe ni – in tudi popolne poštenosti ne bo. Drobne goljufije so včasih celo koristne, ker razkrijejo, kje so sistemske šibkosti. Tako se družba, ki se zna učiti iz prevar, pravzaprav ne slabša, ampak postaja pametnejša in trdnejša.
Naloga zakonodajalcev, regulatorjev in načrtovalcev sistemov zato ni izkoreniniti goljufijo, temveč ohranjati ravnovesje. Goljufanje v sistemu je kot mutacija v evoluciji: ne moremo ga preprečiti, lahko pa ga omejimo in včasih celo izkoristimo za izboljšavo. Dobro upravljan sistem ni tisti brez goljufov, temveč tisti, v katerem je sodelovanje najboljša in najvarnejša strategija. Takrat ne sodelujemo zato, ker smo svetniki, ampak zato, ker je to preprosto najbolj smiselna izbira.
[2] H. Booth, When AI Thinks It Will Lose, It Sometimes Cheats, Study Finds, februar 2025, dostopno na https://time.com/7259395/ai-chess-cheating-palisade-research/.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.
