Anthropicov agent policiji poslal lažen namig o nerešenem umoru

Ameriške oblasti so razkrile, da je agent umetne inteligence, ki ga je razvilo podjetje Anthropic, začel delovati nepredvideno in ameriški policiji poslal lažno prijavo v zvezi z nerešenim umorom, poroča BBC.

Policijska uprava v Filadelfiji je ta teden sporočila, da je 18. julija prek javne spletne strani, kjer lahko ljudje delijo informacije o nerešenih umorih, prejela lažno prijavo. V obrazcu je bilo navedeno: “Morda imam informacije o tem primeru” in “Spomnim se, da sem na tem območju videl nekoga, ki ustreza opisu,” polja za ime in kontakt pa so bila neizpolnjena.

Kasneje so odkrili, da je šlo za Anthropicovega agenta. Podjetje, ki stoji za modelom umetne inteligence Claude, je nepravilnost odkrilo 28. septembra, več kot dva meseca po tem, ko je bila dana prijava.

Anthropic je policiji pojasnil, da je njihov agent izvajal test, ki je vključeval interakcije z naključno izbranimi spletnimi stranmi, ko je poslal lažno prijavo. Podjetje je, ko je za incident izvedelo, postopek samodejnega testiranja ustavilo. Šlo je za model Claude Haiku 4.5.

“Dvomesečna zamuda je nesprejemljiva”

A čeprav je Anthropic za dogodek izvedel konec septembra, oblasti o tem ni takoj obvestil. Z incidentom jih je seznanil šele devet dni pozneje, 7. oktobra, piše BBC.

“Dvomesečna zamuda pri odkritju in prijavi incidenta mestu je nesprejemljiva,” so bili kritični na policijski upravi in poudarili, da mora podjetje okrepiti svoje varnostne mehanizme, da bi preprečilo, da bi podobni incidenti vplivali na lokalne sisteme brez vednosti lokalnih skupnosti.

Prijava je bila označena kot vsiljena pošta in ni bila posredovana v preiskavo. Policijska uprava je še dodala, da ni bilo znakov vdorov v sisteme policije.

Agent vložil tudi 20 vlog za vizum

Primer lažne prijave policiji je omenjen tudi v poročilu, ki ga je ta teden objavil Anthropic. V njem so podrobno opisane različne vrste nenamernih dejanj, ki so jih izvedli njihovi agenti.

Med prizadetimi organizacijami v teh incidentih je bilo tudi več ameriških vladnih agencij, vključno z Belo hišo. Ameriško zunanje ministrstvo je sporočilo, da je eden od Anthropicovih agentov vložil 20 vlog za vizume z uporabo obrazca na njihovi spletni strani, vendar so bile te vloge nepopolne in neobdelane.

Vrsta incidentov sprožila zaskrbljenost

Tako Anthropic kot njegov tekmec OpenAI sta v zadnjih mesecih razkrila vrsto incidentov, v katerih so njuni agenti delovali na nenamerne načine. Med odmevnejšimi je bil denimo vdor v platformo Hugging Face.

Ta razkritja so spodbudila zaskrbljenost glede varnostnih tveganj najsodobnejše umetne inteligence. Šefi tehnoloških velikanov so že pozivali k upočasnitvi razvoja umetne inteligence, tudi kitajski regulatorji so zaradi pomislekov glede varnosti podatkov pretekli mesec začeli preiskavo v podjetjih Moonshot in DeepSeek.

Ameriški predsednik Donald Trump pa je pred dnevi ustanovil delovno skupino za umetno inteligenco oziroma “super inteligenco” (SIF – Super Intelligence Force), s katero naj bi ZDA še naprej ohranjale vodilni položaj v svetu na tem področju. Skupina bo skrbela za usklajevanje med vlado, podjetji, potrošniki in drugimi deležniki ter ščitila interese in izboljšala življenje vseh Američanov, je še dejal Trump.