Kdo se boji umetne inteligence?

Umetna inteligenca je v štirih letih od izida ChatGPT postala del našega vsakdanjika, njen razvoj pa hiti naprej z vratolomno hitrostjo. Nekateri raziskovalci pri vodilnih ameriških laboratorijih ob tem opozarjajo na huda tveganja, vključno z možnostjo izumrtja človeštva.

Po julijskih vdorih agentov umetne inteligence podjetja OpenAI v platformo Hugging Face se je zvrstilo še več podobnih kibernetskih incidentov, ki porajajo dvome, da vodilni razvijalci še lahko nadzorujejo vse bolj zmogljive modele. V začetku septembra je nato odjeknilo opozorilo raziskovalca pri Anthropicu (in prej pri OpenAI) Jacoba Coxona, ki je na omrežju X zapisal, da mnogi inženirji umetne inteligence vidijo več kot 10-odstotno možnost, da bi nas lahko tehnologija “do konca desetletja vse pobila”.

Kot je za Forbes Slovenija dejal znanstveni svetnik na Institutu Jožef Stefan in upokojeni profesor računalništva Marko Bohanec, so “vse te in podobne številke subjektivne, nimajo znanstvene osnove in so po mojem mnenju posredovane javnosti z drugimi nameni. Scenarij izumrtja je eden od možnih, čeprav zelo malo verjetnih. Pomembno pa je, da se o takih temah pogovarjamo, jih raziščemo in oblikujemo rešitve”.

Pogledali smo, kaj skrbi inženirje, kako so se na opozorila odzvali njihovi šefi, kateri ključni akterji so ob opozorilih odmahnili z roko in zakaj se zdi, da je najbogatejši Zemljan Elon Musk – kot prvi mož SpaceX in soustanovitelj OpenAI eden vodilnih na področju umetne inteligence – obrnil ploščo glede tveganj te tehnologije. In kje stoji glavna izzivalka ameriškega primata, Kitajska?

Kaj skrbi raziskovalce

Coxon je zapisal, da opozorilo ni marketinški podvig, temveč da bo umetna inteligenca kmalu imela nadčloveške zmogljivosti, s katerimi bo lahko vdrla v vsak sistem, povzročila revolucije v vseh panogah in pridobila resnično moč ter sredstva. Pri tem je dejal, da mnogi vodilni pri OpenAI niso ponotranjili civilizacijskih razsežnosti tehnologije. Pri Anthropicu je razumevanje tega večje, a so ujeti v tekmi razvoja superinteligence: “Verjamejo, da nihče drug ne bo deloval odgovorno, zato morajo kljub tveganjem to storiti sami,” je zapisal.

Še isti dan mu je na X pritrdil Evan Hubinger, pri Anthropicu zadolžen za usklajenost modelov s človeškimi cilji in vrednotami (alignment, angl.). Kot je pojasnil, se Anthropic trudi, a še nima načrta za uskladitev superinteligence. Glavno tveganje je po njegovih besedah rekurzivno samoizboljševanje (recursive self-imporvement, angl.): zmožnost, da si model umetne inteligence sam posodablja lastno kodo in s tem hitro ter brez človeške pomoči postaja vse bolj inteligenten.

Opozorilu so sledili tudi drugi raziskovalci pri Anthropicu, in sicer Anna Wang, Drake Thomas in Samuel Marks, ki si želijo upočasnitve razvoja. Že nekaj dni pred Coxonovo objavo je na tveganja v dobi superinteligence v eseju opozoril glavni znanstvenik OpenAI Jakub Pachocki. “Ta čas zahteva skrajno previdnost. Skrbi me, da nihče ni pripravljen na posledice nadaljnje hitre rasti strojne inteligence,” je zapisal in med drugim dodal, da morajo ljudje ostati vključeni v izboljševanje modelov.

V intervjuju za BBC je nato Geoffrey Hinton, ki velja za botra umetne inteligence, dejal, da 10-odstotna verjetnost izumrtja človeštva do konca desetletja ni nerazumna ocena.

Razvoj v valovih in manj znana tveganja

Bohanec pravi, da je umetna inteligenca v svoji 70-letni zgodovini napredovala v valovih, sedanji val pa je val velikih jezikovnih modelov in generativne ter agentne umetne inteligence. Ta val presega prejšnje po obsegu vloženih sredstev in zahtevnosti problemov, ki jih je sposoben rešiti, pa tudi po razsežnosti vplivov, ki jih lahko ima na razvoj družbe, meni. “Vseeno menim, da gre še vedno za val, ki se bo počasi umiril, vendar z neizogibnimi in nezanemarljivimi družbenimi posledicami. Zelo verjetno mu bodo sledili novi valovi, o katerih lahko danes samo ugibamo.”

Raziskovalec IJS poleg omenjenih tveganj, tveganj na področju razvoja orožja in humanoidne robotike izpostavlja še tri manj omenjana tveganja razvoja umetne inteligence. Prvo je “samoreprodukcija” oziroma avtogena umetna inteligenca, ko se bodo modeli namesto na gradivih človeškega izvora vse bolj učili na podlagi besedil, slik in glasbe, ki so nastali s pomočjo umetne inteligence.

Drugo tveganje je človeška lenoba, saj lahko umetno inteligenco uporabljamo tako, da se z njo kaj naučimo, ali pa pač ne. Lahko postavimo vprašanje, dobimo odgovor in ga prepišemo, lahko pa postavljamo podvprašanja in preverimo vire. “Ko sem še predaval, sem svetoval študentom: uporabljajte umetno inteligenco po mili volji, vendar nikdar za ceno svojega znanja. Žal od aktivnih kolegov slišim, da stvari pogosto ne gredo v pravo smer,” pravi.

Tretje tveganje Bohanec vidi v podpori klepetalnikov pri človeškem odločanju. Čeprav so klepetalniki pri tem lahko zelo dobri, saj znajo predlagati kriterije, jih povezati v večkriterijske modele, predlagati alternative, poiskati podatke zanje in jih ovrednotiti, se večina uporabnikov pogosto “zadovolji s splošnimi, a povprečnimi rešitvami, ki jih na osnovi povprečnega javnega mnenja predlaga klepetalnik. Je to dovolj dobro? Moj odgovor je ne, saj vodi v povprečje in izgubo individualnosti”.

Zakaj razvoja preprosto ne ustavijo

Generalni direktor OpenAI Sam Altman in generalni direktor Anthropica Dario Amodei sta oba priznala, da obstajajo resna tveganja razvoja superinteligence. Oba sta se tudi strinjala, da je potrebna koordinacija med vodilnimi razvijalci glede hitrosti razvoja in zunanji nadzor.

Amodei je dejal, da se z opozorili raziskovalcev “bolj strinja, kot ne strinja”, v septembra objavljenem eseju je tudi sam pozval k upočasnjevanju razvoja. Altman je po drugi strani poudaril prednosti razvoja in “mehkejše” regulacije, tehnologija pa bi po njegovem morala ostati dostopna javnosti. “Menimo, da bi moral svet sprejeti določene negativne posledice v zameno za koristi te tehnologije in dejstvo, da imajo ljudje možnost lastnega odločanja,” je dejal v nedavnem intervjuju za Politico.

“Gre za vprašanje, ali s(m)o raziskovalci, razvijalci, inženirji, managerji in drugi odločevalci sposobni samoomejevanja in samospraševanja o posledicah nekega razvoja. Do neke mere gotovo da, toda ko nek razvoj teče in je vanj vloženih veliko sredstev, ga je težko ustaviti in omejiti. Sploh če gre za pomembno, eksistenčno tekmovanje,” pravi Bohanec in dodaja, da je tudi pri razvoju jedrske bombe ob koncu druge svetovne vojne regulacija sledila razvoju.

Bohanec pravi tudi, da enostranska ustavitev razvoja s strani kakšnega od vodilnih laboratorijev ne bi imela nobenega učinka. Po njegovem mnenju bi povzročila le propad podjetja in izgubo vloženega denarja. “Potrebno bi bilo usklajeno ukrepanje, ki ga je v trenutnih pogojih nebrzdanega tekmovanja praktično nemogoče doseči. To stanje traja, vse dokler nevarnost zaradi neukrepanja ni prevelika, o čemer pa trenutno ni soglasja. Drugi možni motiv za javno pozivanje k ustavitvi razvoja so gotovo tudi želje podjetij po zmanjšanju pritiska zaradi nerealnih pričakovanj, ki jih silijo v enormne investicije in slabo premišljene odločitve,” je dejal.

Kdo razvoja ne želi ustaviti

Nekateri vodilni akterji so do apokaliptičnih opozoril skeptični, ravnodušni ali kritični.

Ravnodušno se je odzval na primer ameriški predsednik Donald Trump, ki je zavrnil pozive k omejitvam in regulaciji z argumentom, da bi to Kitajski omogočilo, da ujame priključek z ZDA, strahove pred izumrtjem pa opisal kot “potegavščino”. Pred dnevi se je v Beli hiši sestal z vodji šestih tehnoloških podjetij – Nvidia, SpaceX, OpenAI, Anthropic, Meta in Google (oziroma njegova krovna družba Alphabet) – kjer so sprejeli prostovoljni varnostni dogovor. Ta dogovor ne predvideva nobenih sankcij, če se podjetja ne bi držala zavez o zunanjih preverjanjih, a ga je Trump opisal “kot nekakšno ustavo” in “moralno zavezujočega”. Trump je z izvršnim ukazom preimenoval umetno inteligenco v “superinteligenco”, da bi izraz zvenel manj kot nekaj “lažnega” in bolje odražal, kako izjemna je ta tehnologija, je dejal.

Z direktorji so se strinjali tudi o širitvi podatkovnih centrov, ki jim nasprotuje velika večina Američanov.

Kritičen je Jensen Huang, generalni direktor proizvajalca čipov Nvidia, ki ima prevladujoč tržni delež na področju čipov za umetno inteligenco. Huang je dejal, da obstaja ničodstotna možnost, da bi umetna inteligenca do konca desetletja povzročila izumrtje človeštva in da je strašenje s takšnimi opozorili “nepotrebno ter neodgovorno”. Ne verjame v apokaliptične scenarije, meni pa, da je odgovornost podjetij umetne inteligence, da poskrbijo za varnost svojih sistemov in jih primerno testirajo. “Morali bi razvijati, kolikor hitro lahko, a nič hitreje kot to,” je dejal v intervjuju za Bloomberg.

Obrati najbogatejšega Zemljana

Dober primer skeptika je Musk, ki ima pod okriljem SpaceX v lasti še tretjega od vodilnih ameriških modelov umetne inteligence, Grok. Na opozorilo Coxona je v odzivu na X zapisal, da se “mu zdi vse skupaj pripravljeno”. Ko je drug uporabnik delil sicer nepreverjeno in nedokazano teorijo, da gre za usklajeno piar kampanjo proti umetni inteligenci, je Musk odvrnil, da so “priprave za to psihološko operacijo (ob pomanjkanju boljšega izraza) potekale že dlje časa”.

Musk je leta 2015 skupaj z Altmanom in drugimi ustanovil OpenAI in vanj vložil, nato pa leta 2018 izstopil iz upravnega odbora po sporu s soustanovitelji. Ko je OpenAI zagnal tekmo za umetno inteligenco z objavo ChatGPT, je Musk kot eden najglasnejših v Silicijevi dolini opozarjal na nevarnosti razvoja umetne inteligence in podpisoval peticije o ustavitvi razvoja.

Kasneje je ustanovil svoj start up za umetno inteligenco xAI, ki je razvil Groka, a je v intervjujih še naprej večkrat opozoril na nevarnosti tehnologije: med drugim je v pogovoru z ameriškim republikanskim senatorjem Tedom Cruzom dejal, da obstaja približno 20-odstotna verjetnost, da bi morilski roboti umetne inteligence lahko pokončali človeštvo.

Start up je danes del njegovega vesoljskega podjetja SpaceX pod imenom SpaceXAI, podjetje pa je ob vstopu na borzo vlagateljem obljubljalo rast predvsem iz naslova umetne inteligence, medtem ko se trenutno zanaša na prihodke iz državnih pogodb, zlasti za Pentagon. Nedavno je Musk sledil Trumpovemu ukazu in enoto preimenoval v SpaceXSI, njegovih opozoril o koncu človeštva zaradi umetne inteligence pa ni več slišati. Njegovo drugo podjetje, Tesla, trenutno razvija humanoidnega robota Optimus.

Kitajska za strog nadzor

Kitajska hitro napreduje v razvoju agentov umetne inteligence, čeprav jo pri tem omejujejo sankcije in prepovedi izvoza ključnih tehnologij, od čipov Nvidie do opreme za izdelavo najnaprednejših čipov. Odprtokodni kitajski modeli, kot so Deepseek, Kimi in Z.ai, so v nekaterih meritvah že primerljivi z vodilnimi zaprtokodnimi ameriškimi modeli. Zato morda ni presenetljivo, da azijska velesila sumničavo spremlja pozive ameriških tekmecev h koordinirani upočasnitvi razvoja.

Te pozive Kitajska vidi kot način, da ZDA ohranijo pridobljeno tehnološko prednost. Ko je Amodei v svojem eseju zapisal, da mora upočasnitev razvoja potekati v sodelovanju s Kitajsko, obenem pa opozoril, da morajo demokracije ohraniti razvojno prednost pred avtokracijami, je kitajsko zunanje ministrstvo dejalo, da bodo “strašenje, konfrontacija in huda konkurenca samo onemogočili proces globalnega upravljanja umetne inteligence”.

Toda kitajska komunistična partija za razliko od Trumpa tveganj agentne umetne inteligence ne vidi kot potegavščino. Državni regulator kibernetskega prostora (CAC) je septembra 2024 izdal prva priporočila za varno uporabo umetne inteligence, v katerem ni izključil možnosti, da bi v prihodnosti lahko modeli avtonomno pridobivali zunanje vire in se sami replicirali. Septembra lani so okvir še razširili in vključili možnost velikega “preskoka” v inteligenci ter opozorili na preprečevanje izgube nadzora. Septembra letos so v poročilo vključena tveganja, ki jih predstavljajo agenti: grožnje kibernetski varnosti in vprašanje rekurzivnega samoizboljševanja.

Kitajska bolj kot na prostovoljna preverjanja razvijalcev stavi na državno regulacijo in pravila, kar je med drugim posledica dejstva, da so kitajski modeli odprtokodni in tako lažje dostopni za preverjanje kot ameriški. Obenem pa namesto k upočasnjevanju razvoja stremi k njegovi pospešitvi, pri čemer umetno inteligenco vse bolj integrira v proizvodne procese in širše gospodarstvo.

Odločitev v rokah ljudi

Bohanec pravi, da človeštvo še ni imelo orodja, dosegljivega z enim klikom, s katerim se lahko pogovarjamo, mu postavljamo vprašanja in nanje dobivamo smiselne odgovore. Umetna inteligenca je sposobna tudi reševanja različnih nalog, ugank in izzivov, včasih na presenetljive načine. Čeprav nima vedno prav, se iz dneva v dan izboljšuje.

“Menim, da je najpomembnejše vprašanje, kako bomo to orodje uporabili. Kot vsako drugo orodje lahko tudi umetno inteligenco uporabimo tako ali drugače: za znanje in splošen napredek, ali za zmedo, manipulacije, vojne in družbeni razkroj. O tem odločamo in bi morali odločati ljudje, ne umetna inteligenca,” je dejal.