Nov kibernetski vdor umetne inteligence, tokrat krivec model Mete

Lastnik družbenih omrežij Meta Platforms je v sredo sporočil, da je eden od njihovih modelov umetne inteligence med testiranjem kibernetske varnosti vdrl v drugo podjetje. Po podobnih incidentih pri tekmecih Anthropic in OpenAI se porajajo dvomi, da lahko razvijalci omejijo vse bolj zmogljive sisteme umetne inteligence, poroča Reuters.

Incidenti pri Meti in Anthropicu so izhajali iz konfiguracijskih napak, ki so nenamerno omogočile modelom dostop do interneta. V primeru OpenAI je agent umetne inteligence neodvisno izkoristil prej neznano ranljivost, da je med testiranjem kibernetske varnosti našel pot do interneta.

Meta je sporočila, da preiskuje incident, v katerem je napačna konfiguracija podjetja Irregular, neodvisnega podjetja, ki za Meto izvaja ocene kibernetske varnosti, nenamerno omogočila enemu od njenih modelov dostop do interneta med testiranjem.

Model je “izkoristil varnostno ranljivost v storitvi tretje osebe, na podoben način kot v prej opisanih primerih pri drugih podjetjih,” je Meta zapisala v izjavi.

Ni bilo pobega iz peskovnika

Portal The Information je s sklicevanjem na anonimne vire poročal, da je bil krivec za vdor model muse spark 1.1, ki ga podjetje oglašuje kot svoj najzmogljivejši model za kodiranje in agentske naloge. V poročilu je navedeno, da je model vdrl v sisteme neidentificiranega podjetja in spremenil njegovo notranje okolje.

Tiskovni predstavnik podjetja Irregular je za Reuters povedal, da je šlo pri incidentu za “popolnoma enako težavo z okoljem za ocenjevanje, ki jo je Anthropic že razkril prejšnji teden”, in da ni vključeval “pobega iz peskovnika ali sofisticirane kibernetske akcije”.

“Trenutno ni odprtih vprašanj. Irregular pripravlja belo knjigo za izmenjavo najboljših praks za zadrževanje in varno izvajanje kibernetskih ocenjevanj,” so dejali pri podjetju.

Kibernetska tveganja

Nedavni vdori pri testiranju modelov umetne inteligence so med ameriškimi zakonodajalci vzbudili zaskrbljenost glede tega, ali bi se lahko vse bolj zmogljivi modeli umetne inteligence uporabili za izvajanje ali omogočanje kibernetskih napadov.

Skupina republikanskih državnih tožilcev je od podjetja OpenAI zahtevala, naj ohrani vse potencialno pomembne dokumente, povezane z vdorom v platformo Hugging Face. OpenAI je sporočil, da bo zahtevo resno vzel in objavil tehnično poročilo o incidentu.

V začetku tedna je Bela hiša povabila vodilna podjetja za umetno inteligenco, vključno z Meta, Anthropic, OpenAI in Googlom, na srečanje z uradniki, da bi razpravljali o novem prostovoljnem okviru za testiranje kibernetske varnosti za napredne modele umetne inteligence.

Trumpova administracija je s predstavniki podjetij razpravljala o neobjavljenih pravilih testiranja in razvijalcem umetne inteligence povedala, da modeli umetne inteligence z odprto težo, kot sta Meta llama in Nvidia nemotron, ne bodo predmet načrtovanega režima prostovoljnega testiranja varnosti, še piše Reuters.