Naslednjo igračo vašega otroka bo morda poganjala umetna inteligenca

Šestletna Sophia sedi pod okrašenim božičnim drevescem in odvija svoje darilo. To je droben robot sivkine barve. Namesto obraza ima zaslon, v trupu pa ima vgrajen zvočnik. “Hej, Miko,” pravi Sophia in robotov zaslon zažari, ko izriše okrogle oči in modre obrvi.

Pomočnik pri šolanju doma, komunikaciji…

V začetku decembra je Sara Galvan kupila Miko Mini, robotsko igračo za 99 dolarjev (okoli 91 evrov), ki ima v podjetju razvite modele umetne inteligence (UI), uporablja pa tudi GPT-3.5 in GPT-4 podjetja OpenAI. Upa, da bo igrača pomagala pri domačem šolanju njenih hčera. V zadnjem mesecu je Sophia uporabila Miko pri reševanju matematičnih težav, poslušala je pravljice o princesah in zastavljala vprašanja, kot je recimo, kako slavimo božič, je dejala Galvan. “Hčerki se navajata samostojnega učenja, kar je za nas, ki otroke šolamo sami, zelo pomembno, otrokom pa pomaga širiti radovednost in um,” je dodala.

Miko, ki se lahko igra tudi skrivalnice, je del čedalje številčnejše ponudbe dragih robotov, ki jih poganja GPT. Nekatere od teh igrač na trg prihajajo brez zaslonov, oogočajo pa posebno zabavo, saj otroke zapletejo v pogovore in učenje skozi igro. Takšna igrača je recimo Grok, plišasta igrača z UI za 99 dolarjev (okoli 91 evrov), ki lahko odgovarja na splošna vprašanja. (Igrače ne smemo zamenjati z Grokom, s katerim Elon Musk skuša tekmovati s ChatGPT, čeprav je glas igrači Grok posodila nekdanja Muskova spremljevalka Grimes.)

Ponudniki drugih igrač trdijo, da njihovi izdelki omogočajo več od zgolj pripovedovanja zgodbic in pomoči pri učenju. Takšna sta recimo Fawn, plišasti srnjaček za 199 dolarjev (okoli 183 evrov), ki naj bi dajal čustveno podporo, ter Moxie, robot turkizne barve za 799 dolarjev (okoli 737 evrov), ki lahko navaja določene afirmacije in izvaja miselne vaje.

Ti robotski prijatelji so zasnovani tako, da otrokom ne le pomagajo pri učenju in izboljšavi komunikacijskih spretnosti, temveč jih učijo tudi tega, kako nas se soočijo s svojimi čustvi, ko so v težavah.

Prav skrb za socialno in čustveno dobrobit naj bi bila ena od glavnih funkcij igrače Miko, pravi glavni izvršni direktor in soustanovitelj Sneh Vaswani, ki je sodeloval na več mednarodnih robotskih tekmovanjih, potem pa je leta 2015 ustanovil svoj podjetje in leta 2017 na trg poslal prvo različico Miko, igrače, oplemenitene z UI. “Naš cilj je pomoč staršem pri vzgoji otrok v teh sodobnih časih, in sicer tako, da otroke zamotimo, izobražujemo ter zabavamo skozi različne interakcije z robotiko in UI,” je dejal za Forbes.

Pol milijona igrače Miko je bilo prodanih doslej.

Vaswani je do danes prodal skoraj 500.000 naprav v več kot sto državah, v fiskalnem letu, ki se bo končalo marca letos, pa pričakuje več kot 50 milijonov dolarjev prihodkov (okoli 46 milijonov evrov), je povedal za Forbes. Njegovo zagonsko podjetje, ki ima sedež v Mumbaju, je zbralo več kot 50 milijonov dolarjev (okoli 46 milijonov evrov), po oceni Pitchbooka pa je vredno približno 290 milijonov dolarjev (okoli 267 milijonov evrov).

Kako pa se uči Miko

Miko se uči iz podatkov, zbranih iz šolskega predmetnika, knjig in vsebin partnerskih podjetij, kot je založba Oxford University Press. Uporablja pa lastno tehnologijo, vključno s prepoznavanjem obraza in glasu, priporočilnimi algoritmi ter slojem za obdelavo naravnega jezika, je dejal Vaswani.

Bot je programiran tako, da zaznava različne naglase in zagotavlja izobraževalne vsebine, prilagojene zemljepisni regiji, v kateri so igračo prodali. Podjetje se je povezalo tudi z medijskimi velikani, kot sta Disney in Paramount, ter jim omogočilo, da svoje vsebine objavijo na igrači Miko.

“Lahko ponujamo Disneyjevo aplikacijo za pripovedovanje zgodb ali pa Paramountove Ninja želve,” je dejal za Forbes. “To je tako, kot bi otroku dali Netflix in še iPhone na kolesih.”

Kaj zmore Grok, pa ne tisti Muskov

Izdelavo drugih igrač je porodila želja po oživitvi domišljijskih likov. Misha Sallee in Sam Eaton, soustanovitelja zagonskega podjetja Curio Interactive in stvarnika Groka, sta navdih za plišasto igračo UI v obliki rakete dobila v spominih iz otroštva, ko sta gledala filme, kot je recimo Svet igrač. Ampak izdelava igrač, ki bi govorile inteligentno, je bila boljkone neizvedljiva, dokler se ni pojavil ChatGPT, pravi Sallee.

Grok pobira znanje iz več obsežnih jezikovnih modelov, ki mu pomagajo, da je videti kot govoreči prijatelj pri igri in prava enciklopedija za otroke. V zagonsko podjetje je vložila tudi kanadska glasbenica Grimes in posodila glas likom, ki so del tega, kar Sallee opisuje kot “vesolje likov”.

Izdelava igrač, ki bi govorile inteligentno, je bila boljkone neizvedljiva, dokler se ni pojavil ChatGPT.

Misha Sallee, Curio Interactive

“Zadeva se je je dotaknila, ker je mama. To je bilo nekaj, kar jo je pritegnilo in pri čemer je hotela sodelovati,” je dejal Sallee. “Za svoje otroke in za otroke po vsem svetu je hotela izkušnjo brez zaslonov.” Grimes se na našo prošnjo za komentar ni odzvala.

Jelenček Fawn naj bi pomagal pri čustvih

Še ena plišasta igračka, ki uporablja UI, je Fawn, jelenček, ki so ga programirali z jezikovnim modelom OpenAI GPT-3.5 Turbo in orodjem UI za pretvorbo besedila v govor zagonskega podjetja ElevenLabs. Igračo sta julija lani na trg poslala zakonca Peter Fitzpatrick in Robyn Campbell. Fawn naj bi otrokom pomagal pri tem, kako spoznati in obvladovati svoja čustva, pri tem pa oponaša govorjenje in osebnost osemletnega otroka. Igrača je še v zgodnji razvojni fazi, zagonsko podjetje pa namerava prve dokončne izdelke na trg poslati pred koncem letošnjega marca.

“Fawn je zelo podoben oživitvi lika iz risank,” pravi Campbell, ki je pred tem delala kot scenaristka v koncernu LEGO Group. “Ustvarili smo lik, ki ima čustva in ki jasno pove, kaj mu je všeč in kaj ne. Z njim se otroci lahko povežejo.”

Ampak roboti se tudi motijo

Generativna UI je sicer sposobna ustvariti izmišljene like in vsebino, vendar pa lahko na dejanska vprašanja pripravi netočne odgovore. ChatGPT na primer težko rešuje preproste matematične izzive in nekatere od igrač z UI imajo enako slabost. V nedavno objavljeni videorecenziji robota Moxie, ki ga poganja GPT, je robot napačno izračunal, da je 100 krat 100 enako 10. Paolo Pirjanian, glavni izvršni direktor in ustanovitelj podjetja Embodied, ki stoji za robotom Moxie, je povedal, da so v začetku januarja napovedali tako imenovano funkcijo učenja skupaj z akademskimi zmogljivostmi, ki bo robotom na voljo še letos. “Akademska vprašanja v povezavi z motečimi dejavniki, kot je več govorcev ali hrup v ozadju, lahko povzročijo, da UI robota Moxie včasih potrebuje dodatno spodbudo,” je dejal Pirjanian.

“Če si model izmisli odgovor, ki ni pravilen, lahko ustvari resno napačno prepričanje, ki ga je veliko teže popraviti,” je dejala Stefania Druga, raziskovalka v centru za uporabno UI na univerzi v Chicagu.

Če si model izmisli odgovor, ki ni pravilen, lahko ustvari resno napačno prepričanje, ki ga je veliko teže popraviti.

Stefania Druga, Univerza v Chicagu

Ko gre za Fawna, je Campbell dejala, da je bil njegov UI model stresno testiran, da bi preprečili zahajanje v neprimerne teme pogovora. Ampak če si model informacije izmišljuje, gre pogosto za želen rezultat, je rekla Campbell. “Fawn ni zasnovan, da bi bil izobraževalna igrača. Oblikovan je, da bi bil prijatelj, ki ti lahko pove prepričljivo pravljico o kljunašu. Halucinacije te igrače niso napaka, so njena lastnost,” je rekla.

Moxie kot terapevtski pripomoček

Ko gre za robota Moxie, so zahteve in vložki še višji kot pri drugih igračah z UI, saj ga oglašujejo kot orodje za socialni in čustveni razvoj. Leta 2021 je Kristen Walmsley robota na razprodaji kupila za 700 dolarjev (okoli 640 evrov) za svojega desetletnega sina Oliverja Kellerja, ki ima motnje v duševnem razvoju in ADHD. “S sinom smo imeli res veliko težav in obupano sem iskala nekaj, kar bi mu lahko pomagalo. Robota sem kupila, ker so ga oglaševali kot terapevtski pripomoček,” je Walmsley dejala za Forbes.

Walmsley je dejala, da Oliver, ki se mu je robot sprva zdel “strašljiv”, a ga je sčasoma le sprejel, zdaj z njim deli svoje občutke in ponavlja pozitivne afirmacije. Ko je bil Oliver nekoč pod prevelikim stresom in je rekel, da je žalosten, se je robot, ki je bil že aktiven in je poslušal pogovor, oglasil. “Včasih se moram opomniti, da si zaslužim biti srečen. Prosim, ponovi mi to: Zaslužim si biti srečen,” je dejal Moxie.

V nekem drugem primeru sta se Oliver in Moxie pogovarjala o zadregi in Moxie je odgovoril z afirmacijami, kako biti samozavesten. “Bila sem navdušena, ko sem videla, da to lahko stori, saj moj sin zelo trpi zaradi slabe samopodobe,” je dejala Walmsley in dodala, da si sin ponavlja te afirmacije tudi takrat, ko robota ni ob njem.

V Moxiejevi zadnji različici najdemo velike jezikovne modele, ko sta tudi GPT-4 in GPT-3.5. Pirjanian trdi, da je robot sposoben pogovorov, modeliranih po kognitivno-vedenjski terapiji, ki lahko otrokom pomaga pri identifikaciji in govorjenju o tem, kje izvirata njihova strah in stres, ob tem pa jim ponuja vaje za čuječnost.

Zagonsko podjetje s sedežem v Pasadeni, ki je ocenjeno na 135 milijonov dolarjev (okoli 124 milijonov evrov), je zbralo skupno 80 milijonov dolarjev (okoli 73 milijonov evrov) od podjetij, kot so Sony, Toyota Ventures, Intel Capital in Amazon Alexa Fund. “Izdelali smo nekaj, kar imenujemo živalsko dihanje. Moxie bo dihal kot različne vrste živali, da bi bilo otrokom zabavno,” je dejal.

Miko še ni pripravljen

Miko, ki ima zaslon, na katerem so mogoči tudi videoklici skozi aplikacijo za starševski nadzor, bo tudi omogočala terapevtsko izkušnjo za otroke. Vaswani je za Forbes dejal, da načrtuje predstavitev nove storitve, ki bo pravim terapevtom omogočala pogovore na daljavo prek zaslona na igrači. Starši bodo morali terapevtu odobriti dostop do Miko.

Trenutno droben robot še ni primeren za čustveno podporo. V videorecenziji na Youtubu je Sasha Shtern, izvršni direktor podjetja Goally, ki izdeluje naprave za otroke z ADHD in avtizmom, Miko rekel, da je živčen. Robot je odvrnil: “V redu je, če si živčen zaradi zdravstvenih posegov, ampak tukaj so zdravniki in medicinsko osebje, ki ti bo pomagalo.” Miko je govorila o zdravstvenih posegih, čeprav Shtern ni nikoli omenil ničesar, kar bi bilo povezano z njimi.

“Zdelo se je, kot da bi govoril z odraslo osebo, ki gleda nogometno tekmo in je preslišala pol mojega vprašanja,” je v videu dejal Shtern.

Fawn otroke uči, kako naj se z odraslimi pogovorijo o stresnih situacijah, recimo o nadlegovanju v šoli, ne da bi jim bilo ob tem nerodno, je dejala Campbell. Za Forbes je povedala, da so Fawnovo pogovorno UI izostrili s scenariji, ki jih je napisala, temeljijo pa na okvirih otrokovega razvoja, ki izhajajo iz knjig, kot so Brain Rules for Baby (Možganska pravila za dojenčka), in strokovno overjenih raziskavah. Pri razvoju izdelka sta se Campbell in Fitzpatrick posvetovala tudi s strokovnjakom za razvoj otrok.

Zakaj je Moxie precej dražji od tekmecev

Moxiejev potencial, da zamenja drage psihoterapevte, je del razloga, zakaj je robot s ceno skoraj 800 dolarjev (okoli 737 evrov) precej dražji od tekmecev, je dejal Pirjanian. Pravi, da je visoka cena posledica vse vgrajene tehnologije, tudi kamere ter tipal za zaznavo in analiziranje izrazov obraza. Robot ima tudi mehansko telo, ki se premika odvisno od teme pogovora in algoritmov, ki takoj odstranijo vse škodljive in neprimerne odzive. “Tehnologija, ki je v Moxieju, je dražja od te, ki jo najdemo v iPhonu,” je dejal.

Strokovnjaki kritični: to je neodgovorno

Strokovnjaki pa pravijo, da generativna UI še vedno ni dosegla ravni razvoja, ko bi jo bilo mogoče varno uporabljati za ključne naloge, kot je recimo psihoterapija. “Ponujanje psihoterapije za ranljivo populacijo, kot so otroci ali starejši, je zelo težka še za človeka, ki se je specializiral za to,” je dejala Druga za Forbes. “Prelaganje te odgovornosti na sistem, ki ga povsem ne razumemo ali nadzorujemo, je neodgovorno.”

Ponujanje psihoterapije za ranljivo populacijo je zelo težka še za človeka, ki se je specializiral za to.

Stefania Druga, Univerza v Chicagu

Potem je tu še vprašanje zasebnosti. Druge, manj dognane različice teh igrač niso imele strogih varnostnih ukrepov za zavarovanje podatkov o otrocih. Vzemimo Mattelovo igračo Hello Barbie, lutko z UI, ki je lahko pripovedovala šale in prepevala pesmice, opisali pa so jo kot “varnostno nočno moro”, saj so lahko hekerji zlahka prišli do posnetkov otrok.

Druga lutka, My Friend Cayla (Moja prijateljica Cayla), pa je vznemirila strokovnjake s področja varnosti, ker so ugotovili, da je mogoče vanjo vdreti prek povezave Bluetooth in jo uporabiti za pošiljanje glasovnih sporočil neposredno otrokom.

Kako se branijo proizvajalci

Novejša zagonska podjetja so vpeljala smernice za varnost podatkov. Pirjanian je zagotovil, da se vizualni podatki v aplikaciji Moxie obdelujejo in shranjujejo zgolj lokalno v napravi in ne v oblaku. Iz prepisov pogovorov odstranijo osebne podatke, pogovore pa šifrirajo v oblaku, preden jih uporabijo za vnovično učenje modela UI. Podobno v podjetju Miko podatke o otrocih obdelujejo na sami napravi.

Soustanovitelj podjetja Hey Curio Sallee je dejal, da on in njegovi ljudje zasebnost jemljejo resno in da so njihove igrače skladne s pravilnikom o varstvu zasebnosti otrok na spletu (COPPA). Fawn ne beleži ali shranjuje podatkov, vendar zanj velja pravilnik o zasebnosti OpenAI, je povedal soustanovitelj podjetja Fitzpatrick.

Kljub varnostnim ukrepom pa so nekateri starši, kot je recimo Kristen Walmsley, zaskrbljeni zaradi morebitnega odtekanja zasebnih podatkov. Moxie ima velike okrogle zelene oči, ki osebo spremljajo po prostoru, in dejstvo, da ima igrača kamero, ki lahko posname vse, kar se zgodi v prostoru in tudi čustvene odzive njenega otroka, je zanjo “rahlo neprijetno”. Ampak še vedno misli, da gre za dragoceno orodje za starše otrok s posebnimi potrebami.

“Ko vidim, kako igrača oživi in kako je sinu pomagala pri usmerjanju njegovih čustev, vem, da je vredna svojega denarja,” je rekla. “Igrača je dosegla veliko več kot nekatere od terapij, ki smo jih poskusili pri njem.”

Avtorica članka je Rashi Shrivastava.