Živimo v obdobju nenehnih kriz. Permakriza, če poslovenimo angleško skovanko, ki je bila leta 2022 tamkajšnja beseda leta, se v Evropi vleče že od propada pogodbe o ustavi za Evropo naprej. Odtlej smo živeli ustavno-politično krizo, finančno, ekonomsko, migrantsko, varnostno krizo, krizo temeljnih vrednot: demokracije in vladavine prava, javnozdravstveno krizo, krizo zaradi vojne v Ukrajini, kasneje v Izraelu in zdaj še v Iranu. Tega ni konca ne kraja. Grozi pa nam še morebitna kibernetska kataklizma.
The New York Times je konec prejšnjega tedna poročal o poslovno nenavadni potezi podjetja Anthropic. Ta vodilna gospodarska družba s področja umetne inteligence (UI) je razvila novo verzijo velikega jezikovnega modela Claude Mythos Preview. Toda tega ni ponudila na razpolago vsem uporabnikom, temveč je njegovo dostopnost omejila samo na 40 vodilnih ameriških tehnoloških podjetij.
Razlog? V nasprotju z vašimi pričakovanji ta ni v izgradnji ameriškega korporativnega monopola na področju UI. Nasprotno, razlog je strah pred preveč učinkovitim delovanjem UI. Claude Myhtos Preview je namreč sposoben ne le izjemnega pisanja računalniške kode, v enaki meri zna identificirati najrazličnejše pomanjkljivosti v obstoječih kibernetskih sistemih.
Sposobnost novega UI orodja je, če gre verjeti njegovim razvijalcem, tolikšna, da zmore najti pomanjkljivosti v programski opremi, ki jih doslej niso našli niti najboljši inženirji z uporabo najboljših razpoložljivih tehnologij. Z drugimi besedami, če bi dali Claude Mythos Preview prosto na trg, bi kibernetske šibkosti obstoječih računalniških sistemov, ki poganjajo vse od naših javnih do zasebnih omrežij, vključno s kritično infrastrukturo, lahko zlorabil praktično vsakdo.
Dobesedno bi prišlo do demokratizacije kibernetskih napadov, obramba pred katerimi bi postala praktično nemogoča in precej podobna don kihotovskemu brezupnemu boju z mlini na veter. Z omejitvijo novega UI orodja zgolj na največja tehnološka podjetja pa si, po oceni časopisa, kupujemo čas, v katerem se še lahko pripravimo na najbolj črne scenarije.
Opisani razvoj dogodkov za poznavalce UI ni povsem nepresenetljiv. Sami razvijalci teh orodij, priznavajoč številne priložnosti, ki jih UI prinaša, že kar nekaj let opozarjajo tudi na t. i. katastrofične scenarije. Ti se najbolj pogosto omenjajo v zvezi s potencialnim razmahom terorizma na bio-kemičnem in kibernetskem področju.
Z novimi UI tehnologijami se znanje in veščine vsestransko demokratizirajo. Tisto, kar je bilo prej zaradi cenovnih, epistemoloških ter tehnoloških razlogov dostopno le redkim izbrancem v strogo varovanih državnih centrih, danes (lahko) postane mainstream. Z majhnimi denarji in nizkimi inženirskimi napori se bodo lahko sekvencirali novi virusi, nove nevarne spojine ter se vdiralo v bančne račune, električna omrežja, podatkovne baze letalskih družb in podobno.
Tveganja so potemtakem velika, če ne celo velikanska. Nastala niso zaradi tehnološke nujnosti, ker se je tehnologija razvila sama od sebe, temveč ker jo je nekdo razvil. Vse to ni bilo neizbežno, bilo pa je poganjano v želji po dobičku ter geostrateški prevladi nad političnimi tekmeci, zlasti Kitajsko.
Če bo uspeh nove tehnologije v tem, da bo postala prenevarna za svojo uporabo, bo to za človeštvo več kot kontraproduktivno. Prav zato je treba, če že ni prepozno, poskrbeti za regulacijo UI – podobno kot drugih tehnologij za potencialno množično poškodovanje ali celo uničevanje – na globalni ravni.
Samoregulacija in vzdržnost pri poslovni rabi potencialno zelo nevarnih UI orodij, kot jo zdaj kaže podjetje Anthropic, bo gotovo premalo in je zgolj izjema, ki potrjuje splošno pravilo. Ko gre za denar in politične interese iskreno endogenih omejitev tehnološkega razvoja, pa naj bo ta še tako potencialno škodljiv, na žalost ni.
Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.
Pogovor z LEXI
