Pismo, v katerem so se zavzeli za začasno ustavitev razvoja UI, je objavil inštitut Future of Life (Prihodnost življenja), pri katerem Musk sodeluje kot zunanji svetovalec. Podpisalo ga je več kot tisoč ljudi, med njimi več sodelavcev Googlove hčerinske družbe za umetno inteligenco DeepMind, poroča STA.

"Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo," so zapisali v pismu. Če se za to zavzamejo ljudje, ki so z razvojem UI zaslužili milijarde in doslej sicer niso izkazovali etičnih pomislekov, to nekaj pomeni. Musk je bil na primer začetni vlagatelj v OpenAI, več let je bil tudi član upravnega odbora, njegovo avtomobilsko podjetje Tesla pa med drugim razvija sisteme umetne inteligence, ki pomagajo poganjati tehnologijo vozil brez voznika.

"Sistemi umetne inteligence s človeku konkurenčno inteligenco lahko pomenijo veliko tveganje za družbo in človeštvo."

Potrebujemo boljše varovalke

Kanadski pionir umetne inteligence Yoshua Bengio je na virtualni novinarski konferenci v Montrealu opozoril, da družba ni pripravljena na to zmogljivo orodje in njegove morebitne zlorabe, je poročala francoska tiskovna agencija AFP.

"Upočasnimo. Poskrbimo, da bomo razvili boljše varovalke," je dejal kanadski pionir UI Yoshua Bengio in pozval k temeljiti mednarodni razpravi o umetni inteligenci in njenih posledicah, kot je po njegovih besedah svet storil v zvezi z jedrsko energijo in jedrskim orožjem.

Zaskrbel jih je razvoj ChatGPT

ChatGPT je v najnovejši različici veliko napredoval na področju inteligentnih odgovorov. FOTO: zajem zaslona

Zaskrbela jih je moč najnovejše različice programa GPT-4 podjetja OpenAI, ki ga podpira Microsoft. Zdaj je s pomočjo umetne inteligence sposobna ustvariti besedila na podlagi najkrajših pozivov. "Zato pozivamo vse laboratorije za umetno inteligenco, da nemudoma vsaj za šest mesecev prekinejo usposabljanje sistemov umetne inteligence, ki so zmogljivejši od GPT-4," so zapisali podpisniki. Vlade so pozvali, naj uvedejo moratorij, če se podjetja s tem ne bodo strinjala.

Teh šest mesecev bi po mnenju avtorjev pisma morali izkoristiti za razvoj varnostnih protokolov, sistemov upravljanja umetne inteligence in preusmeritev raziskav v zagotavljanje natančnejših, varnejših, zaupanja vrednih in zvestih sistemov umetne inteligence.

Miklavčič: Refleksija ne dohaja razvoja

Jonas Miklavčič, raziskovalec etike in novih tehnologij. FOTO: zajem zaslona

Jonas Miklavčič, ki na Teološki fakulteti raziskuje etične vidike razvoja novih tehnologij in UI je povedal, da je težava v prehitrem razvoju UI. Razvoja refleksija ne more dohajati. "Premor v nadaljnjem razvoju bi morda res lahko omogočil priložnost, da še pravočasno določimo etične in pravne standarde za njihovo uporabo. Tudi če to odprto pismo ne doseže, da se razvoj za prihodnjih šest mesecev ustavi, je relativno pomembno že zato, ker javnost, ki se sedaj zaveda, da je umetna inteligenca danes že tu, opozarja, da so tudi njeni etični izzivi že tu. Vsekakor pa se zdi spodbudno, da so med podpisniki pisma tudi nekateri razvijalci sami, na primer raziskovalci DeepMind laboratorija." 

Kakšna bo prihodnost tehnologije? 

O prihodnosti tehnologije je beseda tekla tudi v oddaji Reflektor, kjer je profesor z Elektrotehnične fakultete v Ljubljani dr. Marko Jankovec razložil, da tehnologija pravzaprav razvija samo sebe, zato je njen razvoj eksponenten. Kar se je še pred letom dni zdelo znanstvena fantastika, je že tu. Čeprav nam marsikdaj olajša življenje, lahko pripelje tudi do resnih etičnih težav.