Izjavo so uradno sprejeli in potrdili člani vseh 27 držav EU, posredovali pa jo bodo tudi različnim evropskim institucijam v Bruslju. Izjava kliče k odgovornosti in preudarnosti, ko gre za vprašanje umetne inteligence in mnogih etičnih vprašanj, ki se s tem odpirajo.

Izjavo v nadaljevanju objavljamo v celoti: 

Evropski poziv k odgovornosti

Etične zahteve za umetno inteligenco, osredinjeno na človeka

Komisija za etiko pri ComECE je na svojem zadnjem srečanju v Bruslju razpravljala o glavnih izzivih etične ureditve umetne inteligence. Komisija za etiko meni, da:

smo v dinamičnem okolju tehnološkega napredka priče pospeševanju inovacij in učinkovitosti umetne inteligence (UI) brez primere. Velikanski napredek umetne inteligence je utrl pot četrti industrijski revoluciji: to zaznamujejo novi tehnološki preboji na več področjih, ki brišejo meje med ljudmi in stroji, med naravnim in umetnim ter med fizičnim in virtualnim svetom. Hitro napredovanje umetne inteligence napoveduje preobrazbeno obdobje na številnih področjih, kot so zdravstvo, izobraževanje, zaposlovanje in delovna mesta, gospodarstvo in industrija, promet in komunikacije. Te tehnološke korake pa spremljajo pomembna etična vprašanja.

Papež Frančišek je v poslanici ob 57. svetovnem dnevu miru januarja 2024 poudaril: »... Velik napredek novih informacijskih tehnologij, zlasti v digitalni sferi, zato predstavlja navdušujoče priložnosti in resna tveganja s pomembnimi posledicami za prizadevanje za pravičnost in harmonijo med ljudstvi. Zato si moramo nujno postaviti številna vprašanja …«

Papež v svojem sporočilu za mir še poglobi občutek omejenosti tehnokratske paradigme:

»'Inteligentni' stroji lahko vse učinkoviteje opravljajo naloge, ki so jim dodeljene, cilj in pomen njihovega delovanja pa bodo še vedno določali ali omogočali ljudje s svojim vesoljem vrednot. Obstaja tveganje, da merila, na katerih temeljijo nekatere izbire, postanejo manj jasna, da se odgovornost za odločanje skrije in da se proizvajalci izognejo obveznosti delovanja v dobro skupnosti.«^[1]

Ugotavljamo, da Evropska unija poskuša sodobni pojav umetne inteligence obravnavati s prvim trdnim regulativnim okvirjem EU za umetno inteligenco, ki je v skladu z etičnimi temelji EU. Komisija za etiko pozdravlja začasni dogovor Evropskega parlamenta z Evropskim svetom o aktu o umetni inteligenci ((COM(2021)0206 - C9-0146/2021 - 2021/0106(COD)) kot pristen poskus, da se prihodnost digitalnega sveta začrta na človeku prijazen in odgovoren način.

Glede na formalno sprejetje akta EU o umetni inteligenci želi Komisija za etiko znova poudariti nekatera temeljna etična načela za prihodnje izvajanje in nadaljnjo poglobitev pravne ureditve umetne inteligence v Evropski uniji.

• Sistemi umetne inteligence morajo biti zasnovani, oblikovani in izvedeni tako, da služijo ljudem in njihovemu okolju ter jih varujejo.
• UI je treba ocenjevati z etičnega vidika. Za to so poleg zakonodaje potrebna tudi načela notranjega nadzora in ocena tveganja.
• UI ni povezana zgolj s tehnološko in gospodarsko rastjo ter varovanjem temeljnih pravic in vrednot državljanov.
• Upoštevati je treba globlje antropološko razumevanje človeškega delovanja, avtonomije, samozavedanja, premišljevanja, namernosti, svobode in odgovornosti za razliko od prefinjenih dejavnosti 'inteligentnih strojev'.
• Umetna inteligenca nikoli ne sme biti vir pristranskih in diskriminatornih odločitev.
• Tehnologija umetne inteligence ne sme biti antropomorfizirana.
• Varovati je treba človekovo dostojanstvo, skupno dobro, subsidiarnost, solidarnost in pravičnost.
• V skladu s ključnimi načeli Rimskega poziva k etiki na področju UI^[2] so potrebni preglednost, izmenjava informacij, vključenost, odgovornost, nepristranskost, zanesljivost, varnost in zasebnost. UI naj bi pomagala ustvarjati življenjske pogoje (tako družbene kot osebne), ki bi skupnosti in njenim posameznim članom omogočali čim večji razcvet.
• V skladu s previdnostnim načelom je potrebna temeljita ocena in obvladovanje tveganj ter tehnična dokumentacija.
• Zaščita demokracije in pravne države je izjemnega pomena.
• Večplastne etične izzive, ki jih predstavlja UI, je treba obravnavati s sodelovalnim in interdisciplinarnim pristopom. Tak multidisciplinarni dialog je temeljnega pomena za oblikovanje politik, ki tehnološke inovacije usklajujejo z moralnimi in etičnimi vidiki.

Direktiva o odgovornosti na področju umetne inteligence (COM (2022) 496 final, 2022/0303 (COD)), ki jo je predlagala Evropska komisija, bo pomemben dopolnilni pravni predpis o UI. Dopolnila bo Zakon o umetni inteligenci z uvedbo nove ureditve odgovornosti in želi zagotoviti pravno varnost, okrepiti zaupanje potrošnikov v UI ter pomagati potrošnikom pri zahtevkih v zvezi z odgovornostjo za škodo, ki jo povzročijo izdelki in storitve z UI.

Glede tega bomo potrebovali nadaljnjo pravno razpravo na etični osnovi o mejah pravic intelektualne lastnine v okviru UI. Ali bi bilo treba sistem s povsem umetno inteligenco zaščititi z avtorskimi pravicami? ComECE je v prejšnji izjavi poudarila:

»Pozivi k razširitvi pravne osebnosti na robote so v nasprotju s samim konceptom odgovornosti, kot se pojavlja v okviru človekovih pravic in dolžnosti, in ga spodkopavajo. Odgovornost, ki izhaja iz pravne osebnosti, se lahko izvaja le tam, kjer obstaja zmožnost svobode, svoboda pa je več kot avtonomija. Pravna osebnost se dodeli fizični osebi (kot naravna posledica tega, da je človek) ali pravni osebi (v tem primeru, čeprav gre za fikcijo, pravna osebnost predpostavlja obstoj fizične osebe ali oseb, ki delujejo za fikcijo)«.^[3] Etično načelo odgovornosti in zmožnost človeškega subjekta, da povrne nastalo škodo, morata biti temeljni steber za ustrezno ureditev.

Hiter razvoj v zadnjih letih, predvsem na področju generativne UI in velikih jezikovnih modelov, ter nadaljnje raziskave sistemov UI s samozavedanjem je spekulativno idejo spremenil v oprijemljivo možnost in obenem opozoril na eksistenčna tveganja.

Pozivamo k skupnim prizadevanjem za poglobitev družbeno-etične razprave, vključno z razpravo o mednarodnem moratoriju za prepoved nekaterih raziskav UI, ki razvijajo stroje s samozavedanjem, da bi našli ustrezen odziv.

Msgr. dr. Anton Jamnik,

predsednik Komisije za etiko, ComECE, Bruselj

Bruselj, 27. januar 2024

Prevedla Mojca Masterl Štefanič

[1] Poslanica papeža Frančiška za 57. svetovni dan miru: Umetna inteligenca in mir

[2] Rimski poziv k etiki na področju UI, 28. februar 2020

[3] ComECE, Robotizacija življenja – etika v luči novih izzivov, B. 2., januar 2019