Misli stroja so postale misli človeka.
Človek misli, da misli,
a misli stroj.
Požrl ga je in ga nadomestil z zobatimi mislimi.
Človek pa še vedno misli, da misli.[1]
V času, ko se razprave o umetni inteligenci vrtijo okoli vprašanja, ali nas bo nekoč nadzorovala, spregledamo nekaj pomembnejšega: morda nas ne rabi nadzorovati neposredno. Morda je dovolj, da vpliva na ljudi, ki odločajo o naših življenjih. Na kadrovnika, ki izbira zaposlene. Na uradnika, ki odloča o pravicah. Na sodnika, zdravnika, politika ali pisca kolumne. Umetna inteligenca tako ne nastopa kot gospodar, temveč kot parazit. Ta gostitelja ne zgolj prevzame, temveč preko njega deluje na druge.
Prav zato je vprašanje njenega vpliva na človeško presojo eno ključnih vprašanj našega časa. Če ljudje še vedno formalno sprejemajo odločitve in zanje odgovarjajo, njihov vir pa vse pogosteje izvira iz algoritmičnih priporočil, se začne spreminjati sam pomen človeške avtonomije in odgovornosti.
Javna predstava o nevarnostih umetne inteligence je še vedno zaznamovana z distopičnimi podobami upornih strojev. Z vizijami nadzora v slogu 1984 ali filma Matrica. Toda resnična nevarnost morda ni stroj, ki bi nadomestil človeka, temveč človek, ki svoje mišljenje neopazno prepusti stroju. Ta oblika vpliva je bolj subtilna in na nek način nevarnejša. Je nevidna in razpršena, presoja soljudi je že delno kolonizirana in vsaj usmerjana, če ne deloma nadomeščena s strani umetne inteligence.
Posledica je, da se družba ne upira, ker ne vidi neposredne grožnje, temveč le pomoč pri delu in odločanju. Medtem pa umetna inteligenca postopoma prevzema nadzor nad verigo odločitev, ki krojijo naše usode.
V vsakdanjem življenju, v delovnem okolju, vodja več ne presoja vedno samostojno o uspešnosti podrejenih, o vsebini elektronske komunikacije s sodelavkami in sodelavci, o napredovanju ali o primernosti tega ali onega za opravljanje posamezne naloge. Najprej vpraša ChatGPT ali kak drugi model za predlog, analizo, oceno. Ta nato oblikuje ali vsaj sooblikuje njegovo odločitev, s tem pa pomembno vpliva na delovno okolje in karierne poti posameznic in posameznikov, ki ozadja teh odločitev pogosto niti ne poznajo, pa čeprav jih v tistem času lahko slutijo.
Tudi akademsko okolje, ki naj bi bilo prostor ustvarjanja in postopnega razvoja idej, se pod vplivom umetne inteligence spreminja na način, ki ga doslej še nismo dovolj resno premislili. Recenzentski postopek, ki je bil dolgo časa eden glavnih garantov znanstvene rigoroznosti, se počasi banalizira. Kot avtor v več kot polovici recenzentskih mnenj opažam dolge pomišljaje (–), ki so eden najbolj prepoznavnih znakov sodelovanja umetne inteligence pri oblikovanju besedila.
Če svoje besedilo preprosto prilepimo v ChatGPT ali podoben model in ga prosimo, naj nastopa kot objektivni recenzent za določeno revijo, dobimo dokaj zanesljivo napoved, kakšen bo izid recenzije. Veliki jezikovni modeli pri tem namreč, razen spretne sinteze že poznanega, še vedno niso zmožni resnično presežnega, izvirnega mišljenja.. Znanost se tako postopoma razčlovečuje in prilagaja dokaj visokemu, pa vendar najnižjemu skupnemu imenovalcu umetne inteligence.
Na ministrstvih uradniki pri oblikovanju strategij, akcijskih načrtov in drugih policy dokumentov vse pogosteje uporabljajo podporo umetne inteligence. Izvršilna veja oblasti se tako že sedaj deloma zanaša na ocene in predloge velikih jezikovnih modelov. To je še posebej problematično, ker raziskave kažejo, da že občasna uporaba teh orodij spreminja način razmišljanja in vrednotenja tistih, ki jih uporabljajo.
Skupni imenovalec vseh teh primerov je isti mehanizem: umetna inteligenca ne odloča neposredno, ampak postopoma prevzema vlogo tihega sooblikovalca človeških odločitev. Dela nas odvisne od sebe in usmerja naša življenja, ne da bi nas morala sploh neposredno nadzorovati. In prav v tej nevidnosti in navidezni neškodljivosti je njena največja moč. Ta način delovanja je posebej učinkovit zaradi videza ohranjanja človeškosti odločitve. Človek formalno odloča, toda vsebina in usmeritev njegove odločitve prihajata od velikega jezikovnega modela.
Kar je bilo še nedavno razumljeno kot koristna pomoč pri delu, postaja vse bolj pričakovani standard odgovornega in temeljitega odločanja. V številnih okoljih, od javne uprave do akademskega sveta in gospodarstva, že velja tiho soglasje, da tisti, ki pri pomembnih odločitvah ne uporabi umetne inteligence, tvega, da bo premalo temeljit. Tako se postopoma spreminja sama norma tega, kaj sploh še šteje za ustrezno človeško presojo.
Še posebej zaskrbljujoče pa je, da ta proces ustvarja povratno zanko (angl. feedback loop), ki krepi samo sebe. Odločitve, ki so bile delno oblikovane z umetno inteligenco, postanejo del podatkov, na katerih se modeli učijo v prihodnje. S tem se prostor za resnično človeško presojo ne le zmanjšuje, ampak se postopoma tudi zapira. Sistem se vedno bolj uči na svojih lastnih, že delno strojno posredovanih izhodih. Kar se začne kot pomoč pri odločanju, lahko sčasoma postane glavni vir tega, kar sploh še štejemo za razumno odločitev.
Glavno vprašanje, ki si ga moramo postaviti, ni samo tehnološko ali pravno, temveč tudi globoko filozofsko. Kaj pomeni, da človek še vedno formalno odloča, vsebina njegove odločitve pa prihaja od zunaj, od nečesa neorganskega? Ali je to še vedno njegova odločitev, zgolj zato, ker jo je bežno pregledal?
Ta oblika strojnega parazitizma postopoma, a vztrajno spodkopava sam pojem človeške avtonomije. Presoja ljudi postaja odvisna od sistemov, ki jih ne nadzorujemo, niti jih v večinski meri ne razumemo. To stanje ustvarja novo obliko heteronomije. Človek ne vlada več sam sebi, ampak je vsaj delno podrejen novi sili, ki deluje preko drugih ljudi. Ta podrejenost je posebej nevarna, ker ohranja videz svobode in avtonomije.
Morda najgloblje vprašanje ni, kako se temu upreti z zunanjimi, regulatornimi sredstvi, temveč kako sploh ohraniti zmožnost, da še vedno prepoznamo trenutek, ko naša odločitev ni več resnično naša, in kaj to pomeni za razumevanje človeka kot bitja, ki bi naj bilo sposobno vrednotenja ter lastne presoje.
Ali bodo — pomembne odločitve o naših življenjih — na koncu res nastajale med dolgimi pomišljaji?
[1] Kosovelov neobjavljeni Kons., halucinacija UI, ali moje avtorsko delo. Morda vse troje. O tempora, o mores! Kdo ve?
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.
