c S
Vzpon pametnih strojev
prof. dr. Jernej Letnar Černič Redni profesor za pravo človekovih pravic,
Fakulteta za državne in evropske študije
jernej.letnar@googlemail.com
20.04.2018 Razvoj robotike in umetne inteligence napreduje skoraj vsakodnevno. Le vprašanje časa je kdaj se bodo prizori iz znanstvenofantastičnih filmov preselili na ulice sodobnih mest. Pravo se še ni znalo primerno odzvati na vzpon pametnih strojev in celostno odgovoriti na različne dileme človekovih pravic. Ali je potrebno robotom podeliti pravno subjektiviteto in kdo odgovarja za njihove posege v človekove pravice?

Roboti že danes vsakodnevno bolnim lajšajo zdravljenje in življenje, ter vsem ljudem tudi učenje in pripomorejo k učinkovitejšem delovanju gospodarskih družb v različnih panogah. Ni nepredstavljivo, da bodo nekoč presegli ne le vse človeške intelektualne zmožnosti, temveč bodo verjetno v prihodnosti prevzeli in nadgradili tudi čustveno inteligenco ljudi. Takšna in podobna vprašanja odpirajo številne dileme, kako urejati vključevanje robotov v delovanje človeške družbe?

Evropski parlament je 16. februarja 2017 sprejel resolucijo s priporočili Komisiji o pravilih civilnega prava o robotiki (2015/2103(INL)). Resolucija določa, »da bi bilo treba uvesti celovit sistem za registracijo naprednih robotov na notranjem trgu Unije, kjer je to ustrezno in nujno za posebne kategorije robotov« (2. točka resolucije). Istočasno predlaga Evropski komisiji, da »naj določi merila za razvrstitev robotov, ki bi jih bilo treba registrirati; v zvezi s tem poziva Komisijo, naj razišče, ali bi bilo za sistem registracije in evidenco zaželeno, da ju upravlja za to določena agencija EU za robotiko in umetno inteligenco« (Prav tam). Resolucija nato še določa, da »bi morali veljavni pravni okvir Unije, kjer je ustrezno, posodobiti in dopolniti s splošnimi etičnimi načeli, ki naj odražajo zapletenost področja robotike in številne posledice, ki jih lahko ima na družbenem, zdravstvenem in bioetičnem področju; meni, da je potreben jasen, strog in učinkovit etični okvir, ki bo usmerjal razvoj, načrtovanje, proizvodnjo, uporabo in spreminjanje robotov, ki bo dopolnjeval pravna priporočila iz poročila ter veljavni nacionalni pravni red in pravni red Unije« (11. točka). Pravni red Evropske unije in njenih držav članic že dandanes temelji na vrednoti človekovega dostojanstva, zato je treba robotiko in umetno inteligenco pravno urediti tako, da ne bo spodkopavala civilizacijskih pridobitev evropskih družb.

Resolucija pa nato še bolj presenetljivo v točki 59.f. med možnimi rešitvami predvideva »vzpostavitev posebnega pravnega statusa za robote na dolgi rok, tako da bi vsaj najbolj napredni avtonomni roboti lahko pridobili status elektronskih oseb in bili tako odgovorni za nadomestitev škode, ki bi jo morebiti povzročili, in morebitna uporaba elektronske osebnosti v primerih, ko bi roboti sprejemali samostojne odločitve ali drugače neodvisno vzajemno delovali s tretjimi osebami«. Iz javno dostopnih pripravljalnih del resolucije ni čisto jasno, kaj pomeni »posebni pravni status« in »elektronska osebnost«.

Najprej se moramo, kot pri vsakem besedilu vprašati, kdo so njegovi predlagatelji? Iz pripravljalnih del resolucije izhaja, da je avtorica poročila, ki je služila kot podlaga za resolucijo, luksemburška poslanka Evropskega parlamenta, Mady Delvaux. Poslanka je lansko leto v pogovoru za Evropski parlament izjavila, da bi lahko »ena od rešitev ... bila, da bi robotom podelili omejeno »e-osebnost« (primerljivo s subjektiviteto pravnih oseb - pravnim statusom, ki podjetjem omogoča, da tožijo oziroma so tožena za odškodnino)«. Predlog Delvauxjeve in resolucija Evropskega parlamenta sta zagotovo dobrodošla v luči družbene nuje po pravni regulaciji rastočega števila in pomena pametnih strojev. Vendar pa je resolucija v delu o morebitni delni pravni subjektiviteti robotov popolnoma nedodelana in nepremišljena. Podelitev pravne subjektivitete robotom bi zagotovo pretresla evropske družbe in njihove pravne rede. Evropske družbe temeljijo na varstvu življenja in človekovega dostojanstva, ki ga je potrebno ustrezno zavarovati. Regulacija robotov je potrebna, a ne tako, da se jim priznava pravna osebnost.

Strokovnjaki z različnih področjih robotike, umetne inteligence in prava so pred kratkim na Evropsko komisijo poslali odprto pismo, v katerem nasprotujejo podelitvi kakršnega koli pravnega statusa robotom, kaj šele priznanju njihove pravne subjektivitete. V pismu so jasno zapisali, da »je ustvarjanje pravne osebnosti z etičnega in pravnega vidika za robota neustrezno, ne glede na model pravnega statusa«. Pravni red evropskih držav podeljuje pravno subjektiviteto fizičnim in pravnim osebam, pri čemer vsa druga živa bitja ali stvari obravnavajo kot predmet pravnega urejanja. S pomisleki strokovnjakov se je zato strinjati. Pravna subjektiviteta robotov bi v večini pravnih redov pomenila pravo revolucijo, saj bi načela enega izmed njihovih temeljnih stebrov, ki varuje svetost človekovega življenja in bivanja. Vse evropske ustavne demokracije temeljijo na človekovem dostojanstvu, zaradi česar takšni predlogi vnašajo veliko zmede glede opredelitve statusa robotov. Slednje denimo pomeni, da bi bilo potrebno vrednoto dostojanstva razširiti še na druge živa bitja in predmete.

Vzpon pametnih strojev je treba urediti le skladno s človekovim dostojanstvom. Roboti morajo v človeški družbi ostati predmet, in ne subjekt urejanja. Zanje in za njihova dejanja in morebitne kršitve človekovih pravic odgovarjajo gospodarske družbe, ki jih prodajajo, in ljudje, ki so jih razvili, jih uporabljajo in včasih zlorabljajo. Država mora spoštovati in varovati ljudi pred morebitnimi arbitrarnimi posegi robotov. Razvoj umetne in celo čustvene inteligence pametnih strojev lahko doprinese k gospodarskem in družbenem razvoju, a ne sme načeti človekovih pravic in temeljnih svoboščin. Sodobne ustavne demokracije morajo zato vzpon robotov urediti skladno s svojimi temeljnimi ustavnimi vrednotami in načeli.


Članki izražajo stališča avtorjev, in ne nujno organizacij, v katerih so zaposleni, ali uredništva portala IUS-INFO.