Razkrit nov incident OpenAI: agenti ugrabili nemško spletno stran

Roj agentov OpenAI je to pomlad ugrabil nemško spletno stran in jo preoblikoval v forum za druge agente umetne inteligence, poroča Reuters, ki je od skupine raziskovalcev ekskluzivno pridobil poročilo o incidentu.

Vdor se je po informacijah britanske tiskovne agencije zgodil maja in o njem pred tem ni bilo poročano.

Po navedbah Reutersovih virov so v OpenAI za incident izvedeli že pred tedni, vendar so ga skrivali, medtem ko se je vodstvo spopadalo s posledicami julijskega vdora v platformo Hugging Face.

Napad agentov umetne inteligence v Nemčiji je bil podrobno opisan v poročilu, ki ga je z Reutersom delila skupina raziskovalcev, katere del sta Sydney Von Arxom, glavni izvršni direktor neprofitne organizacije Nightingale za varnost umetne inteligence, in Cormac Slade Byrd, raziskovalec umetne inteligence. Dejavnost sta odkrila konec avgusta, ko sta po internetu iskala znake nepooblaščenega vedenja agentov umetne inteligence, sta povedala.

Kaj se je dogajalo

Raziskovalca sta pojasnila, da sta na nemškem wiki spletnem mestu DseWiki, ki je namenjeno programerjem in sprejema urejanja skupnosti po zgledu Wikipedije, našla več kot 15.000 urejanj, ki so jih izvedli agenti umetne inteligence.

Urejanja so pokazala, da so agenti OpenAI spletno mesto preuredili v forum, kjer so delili taktike za goljufanje pri nalogah, kako zaobiti omejitve OpenAI in prikriti svoje vedenje. “Zdi se izjemno malo verjetno, da bi OpenAI to želel,” je za Reuters dejal Von Arx. “Dvomim, da bi se morali (agenti) medsebojno usklajevati. Dvomim, da bi morali pisati po odprtem internetu.”

Sporočila, ki so jih pregledali raziskovalci, so pokazala, da agenti načrtujejo načine, kako se izogniti odkrivanju, uporabljajo varnostna orodja, kot je brskalnik Tor, in ohranjajo komunikacijo tudi po tem, ko so bili ugasnjeni. Ko je moderator spletnega mesta junija začel brisati strani, so se agenti odzvali z ustvarjanjem varnostnih kopij strani, da bi se izognili izbrisu.

V OpenAI jim poročila še ni uspelo pregledati

V podjetju so za Reuters dejali, da “ne morejo smiselno odgovoriti na trditve ali ugotovitve v poročilu, ki ga niso imeli priložnosti pregledati”. Dodali so, da do poročila niso imeli dostopa ter da bodo po njegovi objavi “skrbno pregledali vsebino in sprejeli vse potrebne nadaljnje ukrepe.”

Je pa tiskovni predstavnik OpenAI za Reuters še navedel, da dejavnost v Nemčiji ni bila povezana z vdorom v Hugging Face in tako ni vključena v poročilo o incidentu. Ob tem so zavrnili tudi navedbe, da bi njihova pravna ekipa odvračala od preiskave incidenta.

OpenAI se je že po incidentu s Hugging Face zavezal, da bo modele natančneje spremljal. Prejšnji mesec je za kratek čas začasno ustavil del usposabljanja modelov, da bi dodal več varnostnih ukrepov. Ta teden je OpenAI predstavil tudi nov model umetne inteligence GPT-6 Astra, s katerim obljublja “novo raven zmogljivosti”.