V svojem nagovoru se je posvetil grožnjam in obljubam umetne inteligence, človeškemu in algoritemskemu odločanju. Spregovoril je tudi o esejih, ki jih piše umetna inteligenca, ter nujnosti političnega sodelovanja na področju tehnologije.

Revolucija, ki preobraža

Začel je z besedami, da rojstvo umetne inteligence predstavlja »pravo kognitivno-industrijsko revolucijo«, ki bo privedla do »kompleksnih epohalnih preobrazb«. Te preobrazbe, je dejal papež, imajo potencial tako za pozitivno kot za negativno. Kot dober primer je navedel demokratizacijo dostopa do znanja, eksponentni napredek znanstvenih raziskav in zmanjšanje zahtevnega in napornega dela. Opozoril pa je tudi na temne plati, kot je »večja nepravičnost med naprednimi državami in državami v razvoju ali med dominantnimi in zatiranimi družbenimi razredi«.

FOTO: Vatican Media

Tehnično-človeško stanje

Papež je opozoril, da je umetna inteligenca predvsem orodje in spregovoril o t. i. »tehnično-človeškem stanju«. Pojasnil je, da ima v mislih dejstvo, da je bil odnos človeka do okolja vedno povezan z orodji, ki jih je ustvaril. Nekateri to vidijo kot slabost ali pomanjkljivost, je razmišljal papež, vendar je po njegovem mnenju to v resnici nekaj pozitivnega, saj izhaja iz dejstva, da smo bitja, »nagnjena k temu, kar je zunaj nas«, bitja, »radikalno odprta za onkraj«.

Ta odprtost, je nadaljeval, je korenina našega »tehnično-človeškega stanja« in tudi korenina naše odprtosti do drugih in do Boga ter korenina naše umetniške in intelektualne ustvarjalnosti.

Sprejemanje odločitev: ljudje proti strojem

Dodal je, da je umetna inteligenca sposobna sprejemati »algoritmične odločitve«, torej tehnične odločitve »med več možnostmi, ki temeljijo bodisi na dobro opredeljenih merilih bodisi na statističnih sklepih«.

Človeška bitja pa »ne le izbirajo, ampak so v svojem srcu sposobna odločanja«. To pa zato, je pojasnil papež, ker smo ljudje sposobni modrosti in poslušanja Svetega pisma. Posledično je zelo pomembno, da so pomembne odločitve »vedno prepuščene človeški osebi,« je poudaril.

FOTO: Vatican Media

Kot primer tega načela je papež navedel razvoj smrtonosnega avtonomnega orožja, ki lahko vzame človeško življenje brez človeškega prispevka, in dejal, da ga je treba končno prepovedati.

Algoritmi niso niti objektivni niti nevtralni

Papež je tudi poudaril, da algoritmi, ki jih umetna inteligenca uporablja za izbiro, »niso niti objektivni niti nevtralni«. Opozoril je na algoritme, ki naj bi sodnikom pomagali pri odločanju, ali naj zapornikom odobrijo hišni pripor. Ti programi odločitev sprejmejo na podlagi podatkov, vendar pa je to, premalo: »Človeška bitja se vedno razvijajo in so nas sposobna presenetiti s svojimi dejanji. Tega stroj ne more upoštevati.«

Eseji, ki jih ustvarja umetna inteligenca

Papež se je nato posvetil dejstvu, da se številni študenti pri študiju, zlasti pri pisanju esejev, vse bolj zanašajo na umetno inteligenco. Zlahka pozabimo, je dejal, da »strogo gledano t. i. generativna umetna inteligenca v resnici ni generativna,« saj ne razvija novih konceptov, temveč zgolj ponavlja tiste, ki jih najde, »in jim daje privlačno obliko«. Papež je opozoril, da lahko to spodkoplje izobraževalni proces, ki bi moral biti priložnost za pristen razmislek.

FOTO: Vatican Media

Na poti k »algoritemski etiki«

Ob koncu govora je papež poudaril, da umetno inteligenco vedno oblikuje »svetovni nazor tistih, ki so jo izumili in razvili«. V zvezi s tem je dejal, da je danes »vse težje najti soglasje o glavnih vprašanjih, ki zadevajo družbeno življenje« – vse manj je soglasja glede filozofije, ki naj bi oblikovala umetno inteligenco.

Zato je po papeževih besedah treba razviti »algoritemsko etiko«, vrsto široko sprejemljivih globalnih načel. »Če težko opredelimo enoten sklop globalnih vrednot,« je nadaljeval, lahko vsaj »najdemo skupna načela, s katerimi bomo obravnavali in reševali dileme ali konflikte glede načina življenja«.

Nujna politika

Ob tem izzivu je papež dejal, da je nujno potrebno politično ukrepanje. Le zdrava politika, ki vključuje najrazličnejše sektorje in znanja, se lahko spopade z izzivi in obljubami umetne inteligence, je položil na srce navzočim. Cilj ni »zadušiti človeško ustvarjalnost in njene ideale napredka«, temveč »usmeriti to energijo po novih poteh,« je sklenil.