Slovenec na Berkeleyju: Strašljivo je, da obstaja inteligenca, ki ni biološka, in je sposobna rešiti najzahtevnejšo matematiko

Zdaj je morda še boljša priložnost za pogovor o umetni inteligenci, kot bi bila pred recimo tremi meseci, je pripomnil dr. Gašper Beguš, izredni profesor jezikoslovja na univerzi Berkeley, ko sva sedla k pogovoru. “Pred kratkim se je zgodil velik premik. V raziskavi je interni model GPT pokazal, da Erdősova konjektura, pereč problem v najzahtevnejši geometriji, ne drži. Na najvišji ravni matematike je model naredil nekaj originalnega.

Sam uporabljam modele za znanstvena odkrivanja in pričakoval sem, da se bo ta mejnik zgodil malo pozneje. Veliko smo se pogovarjali, ali so ti modeli lahko originalni, odkrijejo nekaj novega. Med znanstveniki, s katerimi sem se pogovarjal, so bila mnenja deljena, a zdaj je tu potrditev. Kar pomeni, da se bo na dolgi rok morda spremenil celoten način, kako delamo znanost,” pravi dr. Beguš.

Raziskuje, kako se inteligenca – človeška, živalska in umetna – izraža skozi jezik. Združuje jezikoslovje, umetno inteligenco, kognitivne znanosti, strojno učenje, nevroznanost, filologijo in morsko biologijo. O prelomnosti njegovega dela pišejo največji svetovni mediji, kot so The Guardian, The Economist, National Geographic, The New York Times, Financial Times, BBC, Wired, Harvard Magazine in drugi. Predava na različnih dogodkih, med drugim tudi na OpenAI. Pogled na umetno inteligenco pronicljivo širi s tehnične na politično sfero in razmišlja o vplivih nove tehnologije na družbo, ki se prvič sooča s tem, da bo lahko nekaj pametnejše od človeka.

Je tudi mentor v okviru ameriško-slovenske izobraževalne fundacije Asef.

Na univerzi Berkeley vodite prizadevanja za razvoj tehnik, ki nam pomagajo bolje razumeti notranje delovanje umetne inteligence. Zakaj je pomembno to razumeti?

Pomembno je zato, ker ti modeli postajajo pametnejši od nas. Ali pa vsaj tako pametni kot recimo najboljši matematiki. Imamo orožje, ki je močnejše. Imamo stroje, ki so močnejši, ampak smo kot družba znali obdržati nadzor. Jedrskega orožja na primer ne uporabljamo. V zgodovini pa se nikoli še nismo srečali z nečim, kar je pametnejše od nas. To je popolna neznanka.

Umetno inteligenco je treba razumeti tudi zato, da v reguliranih industrijah, na primer bančništvu ali zdravstvu, znaš razložiti, zakaj si sprejel neko odločitev.

Skoraj z gotovostjo lahko napovem, da si bodo začeli modeli umetne inteligence med seboj izmenjavati informacije v nejezikovnih protokolih, ker je človeški jezik zanje počasen.

Dr. Gašper Beguš, Berkeley

Po drugi strani nam razumevanje teh modelov omogoča, da jih bomo lažje uporabili v svoj prid. Veliko se dogaja z agenti umetne inteligence, ki začenjajo med sabo komunicirati. Kaj komunicirajo, kako, kaj se dogaja med njimi – to bomo morali vedeti zaradi tega, da jih bomo lahko nadzirali, preprečevali, da bi postajali manipulativni, in tudi, da bi lahko onemogočali preveliko koncentracijo moči. Modeli so izjemno sposobni in nekdo, ki jih nadzoruje, kontrolira narativ za vsaj prihodnjih dvajset let v celotni svetovni sferi.

Tudi v industriji se veliko dogaja na področju agentne umetne inteligence in skoraj z gotovostjo lahko napovem, da si bodo začeli modeli med seboj izmenjavati informacije v nejezikovnih protokolih, ker je človeški jezik počasen. Za biološko inteligenco je sicer kompleksen, za te modele pa dokaj preprost. Zato bo treba razumeti, kaj se pogovarjajo, kaj si izmenjujejo, kaj se dogaja v ozadju.

Teh nekaj podjetij, ki razvijajo največje modele, vlaga tudi v to, da razumemo, kako se mreže odzivajo na določene situacije. Veliko se govori o tem, da mreža ve, ko jo testiraš, in se obnaša drugače. Pojavljajo se vedenjski vzorci teh modelov, ki jih moramo razumeti, da bi jih lahko varno uporabljali. Dejansko postajajo bolj pametni, kot smo predvidevali, in tudi hitreje. Še pred tremi leti je bil še GPT-4, ki je z današnjega stališča izjemno slab model. In razvoj se zaenkrat še ne ustavlja.

Ali lahko glede na hitrost razvoja, ki je presenetila, rečemo, da je umetna inteligenca že nekoliko ušla nadzoru?

Določeni ljudje imajo velik problem z idejo nadzora. Kako lahko nadziraš neko inteligenco, ki je v določenih pogledih boljša od tebe. Še zmeraj smo ljudje boljši na posameznih področjih, ampak modeli res postajajo zelo sposobni. Zato moramo na to vprašanje pogledati tudi s stališča biološke inteligence. Ljudje imamo določeno inteligenco, ki jo zelo slavimo. A od kod je ta inteligenca prišla?

Do 90. let je bila ideja, da so naši možgani unikatno človeški in nam omogočajo inteligenco, česar živali in druge entitete nikoli ne bodo dosegle. Določeni ljudje še vedno verjamejo v to, po drugi strani pa raziskave, tudi moje, na živalih in na modelih umetne inteligence sugerirajo, da takoj, ko večaš možganske možnosti, se vse te stvari – inteligenca, jeziki, matematično razmišljanje in podobno – kar same razvijajo. Zato je verjetno, da bodo ti modeli, ki jih gradimo, vse večji, lahko začeli producirati nova odkritja, kot je pokazala raziskava, ki sem jo prej omenil, in se učiti drug od drugega na svojih izvirnih odkritjih. Torej bodo počeli to, kar smo doslej samo znanstveniki.

Če k temu dodamo še odkritje kvantnega računalništva in fuzijske energije, lahko razvoj res eksplodira. Veliko se sprašujem, se pogovarjam s kolegi, ampak dejansko je težko vedeti, kaj se bo zgodilo. Nihče nima odgovorov. Obstaja možnost, da bo disrupcija tako velika, da bodo nekatera področja, kot sta znanost ali finance, čez deset do dvajset let precej drugačna. Nekdo iz financ je ugotavljal, da delo, ki so ga opravljali najpametnejši, najbolj bistri kadri v njegovem podjetju, zdaj opravi umetna inteligenca.

Razvoj umetne inteligence gre tudi v smer rekurzivnega samoizboljševanja (RSI), torej se bo tehnologija sposobna sama izboljševati. Tu se postavi vprašanje, ki ste ga že omenili, ali lahko umetna inteligenca postane pametnejša od nas.

Ko raziskujem, naredim s temi orodji v šestih urah stvari, za katere sem prej potreboval tri mesece. Veliko vprašanje je, ali bodo to ostala orodja in bomo ljudje postali super produktivni, zaradi tega se bo od nas pričakovalo še več. Menedžerji v nekaterih podjetjih omenjajo »10x or leave«. Se pravi, da od zaposlenih zahtevajo, da postanejo desetkrat bolj produktivni s temi modeli, ali pa bodo odpuščeni.

Druga možnost je, da modeli prevzamejo cela področja avtonomno. Ogromne vsote kapitala, ki se vlagajo v to področje, nakazuje na drugo možnost, da se upraviči te velike naložbe.

Veliko se sprašujem, kaj je prihodnost znanosti in tudi visokega šolstva, če ti modeli odlično učijo, študenti jih veliko uporabljajo. Ali bomo imeli te modele kot super orodja, da mi ne bo treba učiti osnov in se bom lahko s študenti pogovarjal o bolj pomembnih stvareh, o odprtih vprašanjih. Ali bo popolnoma spremenil idejo visokega šolstva. Na nek način je bila diploma vstopnica v višji srednji sloj, v kariere, ki so prinašale določene koristi. Zdaj je vprašanje, ali bo to še tako ali se stvari radikalno spreminjajo.

Radikalno stališče je, da delo postane opcijsko, da bomo vsi lepo živeli, ker se bo obseg umetne inteligence širil, kar poveča produktivnost. Če bomo naredili domačo nalogo in uspeli umetno inteligenco varno uporabljati, lahko prinese gromozanske priložnosti v zdravstvu, energetiki, dejansko v vsaki industriji.

Večina zares velikih odkritij se je zgodila do šestdesetih let prejšnjega stoletja, denimo elektrika. Zadnja leta je umetna inteligenca morda edino tako veliko odkritje, poleg morda interneta. Če k temu dodamo še tri odkritja, ki jih pričakujemo že šestdeset let, to so fuzijske energije, kvantno računalništvo in superprevodnike, ki lahko delujejo na sobni temperaturi, lahko dobimo ogromno zmogljivosti, da rešimo najbolj pereča vprašanja v znanosti, kot so zdravila za mnoge bolezni, optimizacija marsikaterih industrij.

Po drugi strani bomo morali narediti družbeni premik s fokusa na STEM (Science, Technology, Engineering and Mathematics – znanost, tehnologija, inženirstvo in matematika, op. a.) na vlogo tehnologije v družbi. Zdi se mi, da bo v prihodnjih desetletjih veliko bolj pomembno, da družbo ohranimo funkcionalno. V zadnjih dvajsetih, tridesetih letih so bile vse države zahodnega sveta obsesivno osredotočene na STEM. Te stvari bo zdaj zelo uspešno obravnavala umetna inteligenca.

Večja nevarnost je, da nam tehnologija zamaje družbo – globalni mir, liberalne demokracije, preprečevanje koncentracije moči. To vidim kot veliko nevarnost. Zato bomo kot družba, skupaj z univerzami, ki so tudi krive osredotočenosti na STEM, morali poudarjati humanistiko, sociološke in družbene študije, ekonomijo. In če se vrnem na vprašanje, kaj je prihodnost univerze, se mi zdi, da je to osredotočenost na izobraževanje državljanov, ki bodo znali funkcionirati in vzdrževati vrednote za prihodnost.

Menedžerji v nekaterih podjetjih omenjajo »10x or leave«. Se pravi, da od zaposlenih zahtevajo, da postanejo desetkrat bolj produktivni z modeli umetne inteligence, ali pa bodo odpuščeni.

Dr. Gašper Beguš, Berkeley

Se pravi, ne več toliko izobraževati inženirjev, ki bodo znali reševati probleme, ampak vzgajati celovito osebnost, da bo družba lahko delovala ob preizkušnjah, ki jih bo ta tehnologija prinesla. Eno od področij, kjer univerza ostaja relevantna, je, učiti se biti človek, učiti se, kaj je humanistika, vrniti se k osnovam, brati Aristotela, filozofijo, zgodovino, politično in ekonomsko zgodovino. Učiti se razvijati človeške prednosti. Menim, da imata humanistika in družboslovje prihodnost, kot so jo imeli računalništvo in naravoslovne vede zadnjih šestdeset let.

Ustanovitelj Anthropica, ki je ustvaril doslej najzmogljivejši model mythos, Dario Amodei je opozoril na tveganja, če takšni sistemi ostanejo brez nadzora. Kakšne bi lahko bile posledice, če zadeve uidejo z vajeti?

Tu pridemo do vprašanja, ki ga Hinton (Geoffrey Hinton, britanski znanstvenik, op. a.) imenuje – kako nadzirati nekaj, kar je pametnejše od nas. In da primer: če bi ljudi izumile žabe, nas ne bi žabe kontrolirale, ampak bi še zmeraj mi nadzorovali žabe.

Sam sodim v tabor, ki opozarja na velike nevarnosti, prav zaradi tega, ker še nikoli nismo imeli ničesar, kar je pametnejše od nas. Možnost za katastrofo je po mojem mnenju majhna, ampak posledice in strošek pa so lahko tako veliki, da moramo stvari jemati resno.

Večjo težavo kot v sedanjih tveganjih vidim v scenarijih, ko postajamo popolnoma odvisni od teh tehnologij in na neki točki pozabimo, da umetni inteligenci prepuščamo določene stvari, da jih počne namesto nas.

Pred časom ste dejali, da modelov umetne inteligence ne smemo spustiti v sfere, kjer bi bila centralizacija moči prevelika. Katere so te sfere?

Izjemno bi bil previden pri dovoljevanju umetne inteligence v političnih in odločevalskih sferah. Sprejemanje odločitev mora biti še vedno v rokah ljudi, saj če prepustimo veliko stvari umetni inteligenci, ima tisti, ki te modele nadzoruje, neskončno moč, da manipulira v političnih sistemih.

Drugo področje je sodstvo. Umetna inteligenca je morda lahko manj pristranska, ampak pravo je vedno neka družbena pogodba med ljudmi.

Težava je, če spustiš preveč umetne inteligence v sfere, ki imajo velike posledice za družbo, saj je nevarnost, da ima tisti, ki kontrolira mreže, možnost na zelo prikrit način vplivati na najpomembnejše vzvode oblasti, vključno z vsemi organi pregona.

To sta redki področji, kjer mislim, da moramo biti zelo previdni, preden uporabimo te modele, če jih sploh kdaj, saj mora biti odločanje o naši prihodnosti v rokah ljudi. In univerze kot sooblikovalec družbe morajo poskrbeti, da vzgajamo državljane, ki bodo sposobni poskrbeti za dobrobit človeške družbe.

Druga nevarnost je bolj znanstvenofantastični scenarij, da ti modeli postanejo izjemno pametni in nas poskušajo uničiti. Težko je to na tej točki ovrednotiti, ampak strašljivo je, kar sem prej omenil, da obstaja inteligenca, ki ni biološka, in je sposobna rešiti najzahtevnejše matematične težave. Kaj vse je lahko sposobna narediti v prihodnosti, ko se začne sama izboljševati? Še vedno imamo nekaj velikih individualnih modelov, kot so claude, GPT in gemini. Ampak kaj se zgodi, ko imaš sto tisoč klonov teh modelov, ki začnejo med sabo sodelovati na problemih.

V določeni meri to že postaja tudi politično vprašanje. Bernie Sanders (ameriški politik, op. a.) je pozval, naj država na nek način »nacionalizira« 50 odstotkov podjetij, ki razvijajo umetno inteligenco.

Ameriška vlada je iz varnostnih pomislekov omejila dostop tujim državljanom do Anthropicovih modelov mythos 5 in fable 5. Kako bo tekma v umetni inteligenci, ki se zdaj zdi, da je med velikimi tehnološkimi podjetji, vplivala morda tudi na razmerje moči med državami, mednarodne odnose, na geopolitiko?

Rekel bi, da vsaka tehnologija na nek način to naredi, premeša karte. Umetna inteligenca je trenutno precej neregulirana, čeprav se to zdaj spreminja. Ameriška vlada razvija merila za varnostna vrednotenja velikih modelov, razvitih v ZDA.

Ampak se že tudi podjetja sama, ki razvijajo modele, samoomejujejo in ne spuščajo najboljših modelov v javnost, ker se zavedajo tveganj.

Za industrijske aplikacije pa bodo vlade po mojem mnenju več dovoljevale.

Na drugi strani je potencial te tehnologije velik. Kje vi vidite največjega?

Absolutno v znanstvenih odkritjih, optimizaciji industrije, energije. V medicini recimo zdaj lahko simulirajo celice, lahko bodo hitreje odkrivali nova zdravila. To se že dogaja. Nobelovo nagrado je dobila ekipa, ki je razvila model za napovedovanje proteinov. Veliko bolezni se bo ozdravilo, povečala se bo kakovost življenja. Veliko stvari, ki jih nočemo delati, bo avtomatiziranih, produktivnost se bo povečevala.

Predstavljajte si, nekoč si moral za vsak sestanek poslati pismo ali telefonirati nekomu, danes pa veliko sestankov naredimo prek Zooma.

Če bomo znali umetno inteligenco vključiti na varen način, bodo koristi za družbo ogromne. Sploh v znanosti. Ta je v zadnjem času dobila nekoliko slabši prizvok v družbi, ampak razlogi, da nam je danes bolje kot pred 250 leti, so v veliki meri v znanosti in odkritjih, ki jih prinaša.

Umetna inteligenca nima čustev, nima lastnih ciljev, zavesti. Bi lahko imela?

To je vprašanje za milijon dolarjev. Nisem tako zelo človeški ekskluzivist, ker še nisem slišal prepričljivega dokaza, da se vse to na neki točki ne bi moglo razviti. Mislim, da smo še daleč, ampak ne vidim dokaza, ki bi me prepričal, da je to absolutno nemogoče.

Mislim pa, da modeli še dolgo ne bodo imeli čustev. Morda bodo naša čustva posnemali, ker so trenirana na gorah človeških podatkov. Čustev, zavesti, lastnih ciljev pa še dolgo ne bo razvila. Zato moramo gojiti človeške lastnosti, da bomo dopolnjevali umetno inteligenco. To je tudi vprašanje, ki pomaga odgovoriti, kaj je poklic prihodnosti.

Veliki jezikovni modeli so lahko dobri učitelji, vendar je tudi znano, da so lahko zelo nezanesljivi, da delajo tudi velike napake. Koliko se vi zanašate nanje kot znanstvenik in profesor in kaj svetujete študentom?

Prosto dostopni modeli še vedno delajo napake, medtem ko predvsem najdražji modeli veliko manj. Vsaka umetna inteligenca, ker je podobna človeški, bo vedno delala napake, tako kot ljudje. Ampak napake so lahko tudi dobre, ker nakazujejo na kreativno razmišljanje.

Mislim, da je pametno, da vsak od nas ugotovi, kako uporabljati te modele za to, da bi bil bolj produktiven, da se opolnomoči. In za vsakega bo to drugače.

Mislim pa, da moramo biti vseeno pazljivi pri vpeljevanju tehnologij v osnovni učni proces. Glede tega sem zelo konservativen. Raziskave kažejo, da že vpeljava računalnikov negativno vpliva na osnovnošolski učni proces.

Narediti bomo morali družbeni premik s fokusa na STEM (Science, Technology, Engineering and Mathematics) na vlogo tehnologije v družbi. V prihodnjih desetletjih bo pomembno, da družbo ohranimo funkcionalno,” poudarja dr. Gašper Beguš z Univerze Berkeley

Narediti bomo morali družbeni premik s fokusa na STEM na vlogo tehnologije v družbi. V prihodnjih desetletjih bo pomembno, da družbo ohranimo funkcionalno.

Dr. Gašper Beguš, Univerzae Berkeley

Zakaj?

Ker če pišeš z roko, postane aktivnih več delov možganov in je učenje bolj učinkovito. Poleg tega je nevarnost, da pridobivanje znanja prepustimo umetni inteligenci. Moja kolegica je dala dober primer, da je to tako, kot bi nekoga najel, da gre namesto tebe v fitnes. Nima smisla.

Umetna inteligenca lahko postane izjemno orodje, če je posameznik že na točki razvoja, da jo zna uporabiti. Če pa bomo sedemletnikom v osnovni šoli omogočili, da bo namesto njih razmišljala, je nevarnost, da se ne naučijo pisati, razmišljati. Že zaradi kratkih videovsebin mladi vedno manj berejo. Branje pa je izjemno dobro za intelektualni razvoj in če bo umetna inteligenca zmanjšala osnovne sposobnosti človeka, jo bo še manj ljudi zmožno uporabljati.

Mladim bo treba omogočiti poti, ki jih bodo pripeljale do točke, ko bodo lahko umetno inteligenco uporabili kot opolnomočenje, ne kot poneumljanje. Zato mora vsaj osnovna izobrazba, pa tudi mogoče pozneje še, temeljiti na razvijanju človeške inteligence.

Tu pridemo spet do političnega vprašanja. Treba se bo pametno odločiti, kaj dovoliti v šolah in česa ne. Ne slepo riniti v nove tehnologije samo zato, ker so nove, ampak se vprašati, ali je morda bolje, da otrok piše in bere z lista papirja kot z ekrana. Raziskave to potrjujejo.

Pomembno je tudi, da znanstveniki izobražujejo politike in širšo javnost o tem, kaj umetna inteligenca sploh je, da bi se odločitve lahko sprejemale na pameten način.

Trenutno sta vodilna v razvoju največjih modelov umetne inteligence OpenAI in Anthropic. Vsi drugi so, vsaj videti je tako, daleč zadaj. Kako gledate na takšno koncentracijo na področju, ki bo močno zaznamovalo, kako živimo in delamo?

Še večja koncentracija je v tem, kdo proizvaja čipe, na katerih deluje umetna inteligenca. Na koncu je vseeno bolj pomembna strojna oprema kot programska. Programsko opremo teh mrež načeloma poznamo. Strateška je strojna oprema – kdo je sposoben zgraditi čipe, na katerih se inteligenca trenira.

Bell Labs je bil primer v zgodovini, ki ga je ameriška vlada na podlagi protimonopolne zakonodaje razdelila. Prav tako Standard Oil. To je družbeni problem, kot smo jih navajeni.

Ni pa razdelila tudi kakega od podjetij, ki so v zadnjih desetletjih močno spremenila naš način življenja in dela, na primer Facebook, Amazon, Google.

Umetna inteligenca vseeno lahko vpliva bolj na družbo in nekateri predvidevajo, da bodo nacionalne vlade začele aktivno posegati v nadzor teh podjetij. Bernie Sanders je, kot omenjeno, predlagal, da bi bila ta podjetja vsaj v polovičnem deležu v državni lasti, saj uspeh teh podjetij temelji na kolektivnem znanju človeštva in je prav, da ima človeštvo delež pri tem.

Mislim, da so že izraziti nameni, da se poveča družbeni in politični nadzor nad temi tehnologijami. Pri tem so plusi in minusi in težko je vedeti, kaj je dobro.

Z industrijo sodelujete prek vašega podjetja InterpretAI. Kakšno je to sodelovanje, se veliko podjetij obrača na vas?

InterpretAI je raziskovalno usmerjeno podjetje, ki razvija tehnike za razumevanje umetne inteligence in organizacijam pomaga razumeti, preverjati in varno uvajati sisteme umetne inteligence. V podjetjih je trenutno vprašanje organizacijske narave, kako vpeljati orodja umetne inteligence v njihovo poslovanje učinkovito, da bodo bolj produktivni. To ni lahko, ker smo vkovani v določene okvirje in spremeniti način poslovanja ni enostavno. Na primer, da namesto ekipe zaposlenih, ki opravljajo nadzor, ustvariš agente, ki jih nadzoruje samo nekaj delavcev. Narediti te premike in ugotoviti, kdaj so finančno upravičeni, na to pripraviti sodelavce, pričakovati od njih večjo produktivnost, pri čemer pogosto težko sprejemajo novo tehnologijo, ni lahko.

Izjemno bi bil previden pri dovoljevanju umetne inteligence v politiki in sodstvu, v odločevalskih sferah, saj če prepustimo veliko stvari umetni inteligenci, ima tisti, ki te modele nadzoruje, neskončno moč.

Dr. Gašper Beguš, Univerza Berkeley

Pri reguliranih industrijah, kakršni sta zdravstvo in finance, kjer je potrebno razložiti odločitve in ne jih slepo prepustiti modelom, pa je pomembno razvijanje protokolov za njihovo razumevanje, ker je to pomembno za njihov nadzor. Nekatera vprašanja so namreč tako zahtevna, da ni dovolj, da model da odgovore, ampak moraš z nevrokirurgijo pogledati v njegovo notranjost, da dobiš uvid. To je sicer zelo komplicirano, ampak ima velik potencial za znanstvena odkritja, s čimer se ukvarjamo v podjetju.

Pri raziskovalnem delu, poleg jezikoslovja in umetne inteligence, združujete tudi komunikacijo živali, s pomočjo umetne inteligence razvozlavate njihov jezik. Zakaj vas je zintrigiralo proučevanje živalske komunikacije, ali lahko z njo tudi o sebi izvemo več?

Absolutno. Vprašanje, kaj je umetna inteligenca sposobna, je zelo povezano s tem, da razmišljaš, kakšna je komunikacija ali inteligenca drugih vrst. Pri tem se lahko mnoge stvari naučimo. Dolgo je veljalo, da smo ljudje unikatni zaradi jezika. Z raziskavo pa smo pokazali, da nismo, kar preizprašuje mnoga stališča v filozofiji, zgodovini, znanosti in jezikoslovju. Spremeni pogled na človeka, njegovo inteligenco, edinstvenost. Vprašanje, kaj je človek v relaciji do živali, je podobno kot vprašanje, kaj je človek v relaciji do umetne inteligence.

Kot rečeno, modeli bodo v prihodnosti komunicirali v protokolih, ki niso jezik in jih bo treba razumeti.

Z raziskovanjem več velikih jezikovnih modelov ste odkrili, da je bil eden od modelov sposoben analizirati jezik na podoben način, kot bi to storil podiplomski študent jezikoslovja – z risanjem diagramov stavkov, razreševanjem večplastnih pomenov in uporabo zapletenih jezikovnih značilnosti, kot je rekurzija. Glede vaših dognanj je Tom McCoy, računalniški jezikoslovec z univerze Yale, ki ni sodeloval pri raziskavi, za revijo Wired dejal: »Ker je družba vedno bolj odvisna od te tehnologije, je vse pomembnejše razumeti, kje lahko uspe in kje lahko spodleti.« Jezikoslovna analiza, je dodal, je idealno testno okolje za ocenjevanje, v kolikšni meri ti jezikovni modeli lahko razmišljajo kot ljudje. Kaj vse nam govorijo ta odkritja?

Zanimivo je, da ti jezikovni modeli že začenjajo razmišljati drugače kot ljudje. Zato je treba uporabiti vse moči, ki jih imamo, za razumevanje, kaj se dogaja notri, ker raziskave kažejo, da se odmikajo od človeškega načina razmišljanja. To lahko tudi uporabimo v svoj prid. Je sicer nevarnost, da jih bomo težko razumeli, ampak smo zelo inteligentna bitja in verjamem, da bomo tudi dobri pri razumevanju umetnih mrež. Samo odločiti se moramo in to narediti. Volja mora biti politična in znanstvena, da te modele resno jemljemo in jih raziskujemo.

V okviru projekta Ceti ste v študiji pokazali, da kiti glavači v svojih glasovnih izrazih tvorijo samoglasnike in da se struktura teh samoglasnikov obnaša enako kot človeški govor.

Nismo edina bitja na tem svetu, ki imamo svoj jezik, in pri teh odkritjih je pomagala umetna inteligenca. V bistvu sem razvil model, ki je posnemal, kako se otroci učijo jezika. Se pravi, ne kot GPT, ki se uči prek teksta, ampak prek poslušanja in govorjenja. Zgradili smo mrežo, ki se uči jezika na bolj človeški način, kot na primer chatboti.

Nato smo naredili nevrološko operacijo in pogledali v notranjost mreže. Ta proces nam je pomagal razmišljati v smer, v katero sicer mogoče ne bi pogledali. Umetna inteligenca je kot orodje. Recimo, na plaži moraš najti zlat prstan in veliko lažje ga boš našel, če boš imel detektor kovin. Še zmeraj smo morali veliko stvari sami narediti, ampak umetna inteligenca je omejila, kje iskati, in nas usmerila na pravo pot. Tako smo odkrili, da imajo kiti glavači vokalne strukture, ki jih prej nismo opazili. To je primer, kako lahko umetna inteligenca privede do konkretnih znanstvenih odkritij.

Zakaj ste mislili, da bo model, natreniran na otroškem govoru, prej pripeljal do nekih odkritij?

Ker je bolj realističen. Otrok, ki se rodi, samo posluša jezik in ga poskuša govoriti. To je zelo učinkovit proces, saj se mora otrok naučiti jezika v zelo kratkem času in je ta princip zelo zmogljiv, bolj kot recimo chatbotov, ki dobi gore podatkov in jih bere, ne posluša.

V velikih jezikovnih modelih umetna inteligenca popolnoma zaobide to, kar mora otrok narediti v prvih petih letih življenja. Iz ogromnega števila glasov in tega, kar vidi, mora učinkovito izbrati stvari, ki so pomembne. Se naučiti besede. To je ogromno dela. ChatGPT besedo že dobi.

Poustvarili smo torej ta proces in pokazali, da se naši modeli zelo dobro učijo jezika. Zdaj imamo v našem laboratoriju celo raziskave, da so tudi možganski procesi podobni kot tisti v naših modelih. Se pravi, gradimo karseda realističen model jezikovnega učenja, ki je res čudež človeške narave.

Nato smo pokazali, da če to naredimo na drugi vrsti bitij, nam da uvide v neko popolnoma neznano komunikacijo. Morda bo to dobro tudi za razumevanje agentov umetne inteligence, ko bodo začeli med sabo govoriti v nam neznanih jezikih. Ta princip lahko uporabimo za dekodiranje teh njihovih nerazumljivih jezikov.

»Kiti glavači komunicirajo z vrsto kratkih klikov, imenovanih koda. Analiza teh klikov kaže, da kiti lahko razlikujejo samoglasnike prek kratkih ali podaljšanih klikov, ali prek naraščajočih ali padajočih tonov, pri čemer uporabljajo vzorce, podobne jezikom, kot so mandarinščina, latinščina in slovenščina.« Tako so zapisali v britanskem Guardianu o članku, ki ste ga objavili. Kateri so ti vzorci, ki so podobni našemu jeziku?

Pokazali smo, da ta komunikacija ni podobna le akustično, se pravi v slušnem vtisu jezikov, ampak da gre dejansko za strukturirane vzorce. Česa tako kompleksnega mislim, da ni pri drugih živalskih vrstah. Ti kiti so res izjemni, imajo tudi štirikrat večje možgane kot mi, in zelo kompleksne, zanimive in čudovite družbe ter živijo dolgo. Mladiči zelo dolgo živijo z materami.

Ugotovili smo strukturne podobnosti med raznimi jeziki in njihovimi glasovi, imenovanimi kode. Na začetku so njihove kode zvenele zelo tuje, zelo vesoljsko, ker v bistvu samo klikajo. Ampak to je bilo zato, ker ljudje niso ugotovili, da so kiti zelo počasni. Če klike pospešiš, pa vidiš skoraj enake vzorce kot v našem govoru.

V latinščini, denimo, so dolgi in kratki vokali. Mi smo pokazali, da ima kitovščina tudi dolge in kratke vokale.

V žirovščini je primer, ko ima en vokal raje določen ton. To smo pokazali tudi pri kitih.

V mandarinščini so različni toni in vokali, se pravi, ton in samoglasnik na različnih zlogih. Nekaj takega imajo tudi kiti glavači.

Kako konkretno ste to ugotovili?

Takoj ko sem ugotovil, da je vse samo v percepciji časa, smo skrčili čas. S spektrogrami smo analizirali frekvence, to je ustaljen postopek v lingvistiki, in na isti način kot človeške vokale analizirali še kitove vokale.

V velikih jezikovnih modelih umetna inteligenca popolnoma zaobide to, kar mora otrok narediti v prvih petih letih življenja.

Dr. Gašper Beguš, Univerza Berkeley

Do nedavnega ste bili tudi ravnatelj Bowles Halla, najstarejšega študentskega doma na univerzi Berkeley. Torej se ukvarjate z mladimi tudi zunaj predavalnic. Kaj vam govorijo? Kakšna je bila ta izkušnja?

Mislim, da je to prihodnost visokega šolstva. Na kampusu s študenti živijo tudi profesorji, ki to želijo. Nekaj takega bi lahko naredili na marsikateri univerzi, tudi v Sloveniji imamo kar nekaj študentskih domov.

Res mi je bilo fino soustvarjati večgeneracijsko akademsko skupnost, kjer živijo doktorski študenti, postdoktorski, profesorji z družinami. Tam so živeli tudi moji otroci. Med kosilom ali večerjo se pogovarjaš o perečih težavah s študentom medicine, fizike, stare grščine. Na dogodke prihajajo alumniji. Organizirajo se tudi svetovanja, tutorstvo.

Z ženo sva več kot devet let vsak torek zvečer pripravila čajanko, kjer smo se pogovarjali ob kaminu in nekdo je recimo igral klavir. To so res posebni trenutki, kjer se učiš človeške edinstvenosti. Taka skupnost je mnogo bolj bogata in relevantna za čas, ko umetna inteligenca vstopa v visoko šolstvo.

Z ženo sva začela na Harvardu, kjer je vsak študent del ene take skupnosti. Na Berkeleyju imamo samo en tak kolidž, na Harvardu jih je dvanajst in je to ena največjih dodanih vrednosti njihove univerze za študente.

V takšni skupnosti rastejo študenti akademsko, profesionalno in osebnostno.