Anthropic po le nekaj dneh prisiljen umakniti najzmogljivejše modele doslej

Potem ko je Anthropic javnosti ta teden omogočil dostop do svoje nove različice modela Claude Mythos, imenovane Claude Fable 5, so ameriške oblasti izrazile varnostne pomisleke. Anthropic je v izjavi, objavljeni na njegovi spletni strani, sporočil, da je vlada odločila, da se tujim državljanom prepove uporaba Claude Fable 5, poroča CNN.

“Končni učinek te odredbe je, da moramo nenadoma onemogočiti Fable 5 in Mythos 5 za vse naše stranke, da zagotovimo skladnost,” so zapisali v podjetju.

Mythos je že ob izdaji aprila povzročil resne pomisleke med tehnološkimi, finančnimi in vladnimi voditelji. Nekatere skrbi, da bi orodje lahko prineslo finančna varnostna tveganja, drugi pa so skeptični, da je del svaril pred novo različico le marketinška poteza. O tem smo že pisali v članku Nov model umetne inteligence straši njegove avtorje in odločevalce.

Kaj skrbi ameriško vlado?

Po navedbah Anthropica so ameriški nacionalni varnostni organi izpostavili vprašanje nacionalne varnosti. Čeprav vlada ni posredovala posebnih podrobnosti o svojih pomislekih, v podjetju menijo, da se je vlada seznanila s tako imenovano metodo za obhod oziroma jailbreak. Gre za postopek, s katerim je mogoče zaobiti programske varnostne omejitve modela, namenjene zaščiti kibernetskega omrežja.

Še nedavno so v Anthropicu trdili, da je Claude Mythos preveč zmogljiv za javno izdajo. Ob izdaji nove različice Claude Fable 5, ki je bila ta teden omogočena za širšo javnost, pa so zagotovili, da ta vsebuje varovalke za preprečevanje zlorabe na področjih, kot je kibernetska varnost.

Pri Anthropicu so še dodali, da čeprav upoštevajo odlok vlade in vsem odvzemajo dostop do novih modelov, se “ne strinjajo, da bi morala biti ugotovitev potencialnega obhoda razlog za odpoklic komercialnega modela, ki je bil namenjen za stotine milijonov ljudi”. Te ranljivosti so po njihovih besedah relativno preproste in jih imajo tudi drugi javno dostopni modeli, piše CNN.

Zapleten odnos s Trumpovo administracijo

Ameriška vlada ima sicer z Anthropicom zapleten odnos. V začetku leta je Trumpova administracija podjetje uvrstila na črno listo in ga razglasila za “tveganje dobavne verige”, potem ko je vodstvo podjetja Pentagonu dalo jasno vedeti, da se njihova tehnologija umetne inteligence ne sme uporabljati za bojevanje brez človeškega nadzora ali za nadzor nad Američani. Anthropic je zoper Pentagon nato sprožil še tožbo.

Anthropic je nedavno vložil tudi zaupno zahtevo za prvo javno ponudbo delnic (IPO), na borzo namerava vstopiti še letos. Tržna kapitalizacija podjetja je ob zadnjem zasebnem financiranju konec maja dosegla 965 milijard dolarjev, kar bi ga ob vstopu na borzo izstrelilo med največja podjetja v indeksu S&P 500.