c S

Pravni spori zaradi uporabe umetne inteligence

dr. Maja Brkan, LL.M. (NYU) Sodnica na Splošnem sodišču Evropske unije
16.10.2023

Z naraščanjem uporabe umetne inteligence se odpira vse več novih pravnih problemov, ki izzivajo tudi prve sodne spore. Primer takšnega sodnega spora je nedavno vložena in precej odmevna razredna tožba (ang. class action) ameriških avtorjev umetniških del, v kateri tožniki zatrjujejo, da je podjetje OpenAI ob ustvarjanju aplikacije umetne inteligence ChatGPT kršilo njihove avtorske pravice. Natančneje, avtorji v tožbi navajajo, da je podjetje OpenAI v fazi usposabljanja aplikacije nezakonito uporabilo njihova avtorsko zaščitena dela. Prek podatkovne baze, ki naj bi jo sestavljala tudi umetniška dela tožnikov, naj bi podjetje OpenAI usposabljalo aplikacijo ChatGPT z namenom ustvarjanja novih »umetniških« del, pri tem pa naj bi po mnenju avtorjev kopiralo, povzemalo ali posnemalo njihova avtorska dela. Tožniki zatrjujejo, da naj bi podjetje OpenAI lahko usposabljalo svojo aplikacijo na podatkih, ki so javno dostopni, oziroma za dostop plačalo razumno licenčnino in da gre pri navedeni uporabi avtorskih del za kršitev ameriškega zakona o avtorskih pravicah. Vendar pa to ni edini primer tožbe, povezane z umetno inteligenco. Zanimivo se, še posebej v Združenih državah Amerike, tožbe zoper aplikacije umetne inteligence vrstijo druga za drugo, pri tem pa poleg avtorskopravne podlage temeljijo tudi na primer na kršitvah varstva osebnih podatkov ali na očitkih obrekovanja.

Primeri pravnih sporov v zvezi z umetno inteligenco pa se pojavljajo tudi v evropskem prostoru. V začetku leta 2023 je na primer italijanska agencija za varstvo podatkov (it. Garante per la protezione dei dati personali) prepovedala uporabo sistema umetne inteligence »Replika«, ki uporabnikom ponuja izoblikovanje osebnega avatarja, na katerega lahko prenesejo svoje osebne podatke, osebnost, videz, glas itd. ter s katerim lahko prosto komunicirajo, saj je aplikacija zasnovana kot klepetalni robot. Nedavno pa so španski (pa tudi slovenski) mediji poročali tudi o tem, da je umetna inteligenca brez vednosti najstnikov uporabila njihove fotografije in jih zlorabila za namene ustvarjanja pornografskega gradiva. Natančneje, nekdo je v program umetne inteligence naložil slike mladih deklet (starih med 11 in 17 let), sicer objavljene na njihovih socialnih omrežjih, program pa je nato umetno ustvaril fotografije golih teles z njihovimi obrazi. Dejanje, ki ga trenutno preiskuje policija, bo v sodnem postopku nedvomno odprlo zanimiva pravna vprašanja.

Pravnih sporov glede umetne inteligence je torej čedalje več, pravna vprašanja, ki jih razvoj in uporaba te tehnologije odpira, pa lahko razdelimo na različna področja.

Na prvem mestu se glede tovrstnih sporov odpirajo zanimiva procesnopravna vprašanja. Pri tem ne gre le za vprašanje procesne legitimacije (prizadetemu posamezniku bo načeloma vedno priznana procesna legitimacija za vložitev tožbe), temveč tudi za vprašanje možnosti vložitve kolektivnih ali zastopniških tožb. Pravna ureditev tovrstnih tožb je v državah članicah Evropske unije zelo različna. V Sloveniji kolektivne tožbe ureja Zakon o kolektivnih tožbah, ki sicer izčrpno določa možna področja uporabe instituta kolektivnega spora, a ne ureja področja varstva osebnih podatkov ali avtorskih pravic. Bi pa v Sloveniji kolektivno varstvo nekaterih vidikov sporov v zvezi z umetno inteligenco lahko dosegli po drugih zakonih, kot je Zakon o avtorskih in sorodnih pravicah. Ker področje umetne inteligence ni izčrpno urejeno, sicer ni povsem jasno, v kakšnem obsegu in v zvezi s kakšnimi tožbenimi zahtevki bi bile kolektivne tožbe trenutno mogoče. Na ravni EU pa se sicer pojavljajo predlogi, da bi bil akt o umetni inteligenci vključen v Prilogo I k Direktivi o zastopniških tožbah, s čimer bi bilo zastopniške tožbe na podlagi prava EU mogoče vložiti tudi v sporih iz kršitev akta o umetni inteligenci (ki je trenutno še v zakonodajnem postopku). Predlog akta o umetni inteligenci sicer ne predvideva omenjene vključitve v Direktivo o zastopniških tožbah.

Nadalje pa uporaba in razvoj umetne inteligence odpirata mnogo materialnopravnih vprašanj. Kot je razvidno iz spora med avtorji in podjetjem OpenAI, se zastavlja vprašanje, ali imajo avtorji pravico do odškodnine v primerih, ko se njihova dela uporabljajo v bazi podatkov, namenjeni za usposabljanje programa umetne inteligence (pri tem gre lahko za glasbo, ki se dandanes že v veliki meri ustvarja z umetno inteligenco, za slike in druge umetnine, za literarna dela itd.).

Nadalje se zastavlja tudi vprašanje, ali so do odškodnine upravičeni tisti, ki so prizadeti s tako imenovanimi globokimi ponaredki (ang. deep-fake). Gre za tehnologijo, ki lahko umetno ustvari fotografije ali videoposnetke, ki dejansko ne odražajo resničnega dogodka, ampak z uporabo umetne inteligence v tolikšni meri spremenijo obstoječo sliko ali videoposnetek, da ta pridobi popolnoma drug pomen in uporabo. Globoki ponaredki se ne uporabljajo le za slike in videoposnetke, temveč tudi za zvok. Tako je na primer podjetje Lyrebird AI ustvarilo aplikacijo, ki omogoča posnemanje glasu. Natančneje, uporabnik lahko v aplikacijo diktira ali napiše besedilo, ki ga bo aplikacija reproducirala v obliki imitacije glasu neke druge osebe. Tehnologija globokih ponaredkov tako vidno odpira številna pravna vprašanja, saj so lahko prizadete različne pravice oseb, kot je pravica do časti in dobrega imena, pravica do zasebnosti in osebnostne pravice. Seveda pa imajo lahko aplikacije, ki ustvarjajo globoke ponaredke, tudi prednosti. Tehnologija Lyrebird AI lahko na primer pomaga osebam, ki so zaradi bolezni izgubile glas, saj jim ponuja način rekonstrukcije le-tega.

Vprašanje globokih ponaredkov ureja tudi predlog akta o umetni inteligenci, ki te tehnologije sicer ne prepoveduje, vseeno pa avtorjem nalaga nekatere obveznosti. To spremembo je z amandmaji iz julija 2023 uvedel Evropski parlament, ki je v predlog navedenega akta dodal opredelitev globokih ponaredkov in predlagal natančnejšo ureditev, po kateri morajo uporabniki sistema umetne inteligence, ki ustvarja ali manipulira z besedilom, zvočno ali vizualno vsebino, pravočasno, jasno in vidno prikazati, na kakšen način je bila vsebina umetno ustvarjena ali prirejena, ter razkriti ime fizične ali pravne osebe, ki je vsebino ustvarila.

Slednjič uporaba umetne inteligence odpira tudi zapletena moralno-etična vprašanja, kot v primeru psihološkega svetovanja z umetno inteligenco, pa tudi širša filozofska vprašanja, kot je vprašanje pripoznanja pravne osebnosti umetni inteligenci. Nedvomno se bo z razvojem in širjenjem uporabe umetne inteligence v prihodnosti povečalo tudi število pravnih, moralnih in filozofskih vprašanj. Tega se zaveda tudi evropski zakonodajalec, ki z aktom o umetni inteligenci (ki je v zadnjih fazah zakonodajnega postopka) poskuša obravnavati nekatera od teh pravnih vprašanj. Vendar o tem morda v prihodnjih kolumnah.


Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.