Kaj svetuje urad za informacijsko varnost glede zmogljivega Mythosa

Na področju umetne inteligence je v zadnjih tednih veliko pozornosti požel model Claude Mythos podjetja Anthropic, ki naj bi bil pri nekaterih nalogah s področja hekanja in kibernetske varnosti učinkovitejši od ljudi. Na uradu za informacijsko varnost so ob tem izpostavili vse večji vpliv modelov umetne inteligence na področje kibernetske varnosti, poroča STA.

Podjetje Anthropic je model Claude Mythos predstavilo v začetku meseca. Trenutno je na voljo omejenemu krogu večjih tehnoloških podjetij, med drugim podjetjem Amazon Web Services, Apple, Microsoft, Google, Nvidia in Broadcom, poroča BBC.

Pri Anthropicu trdijo, da je bil model med testiranjem izjemno uspešen pri opravljanju nalog s področja kibernetske varnosti in hekanja ter da pri tem dosega boljše rezultate kot ljudje. “Mythos Preview je že odkril na tisoče ranljivosti visoke stopnje resnosti, med njimi tudi nekatere v vseh glavnih operacijskih sistemih in spletnih brskalnikih,” so sporočili iz podjetja.

Ker Claude Mythos Preview ni javno dostopen, ga ni mogoče neodvisno testirati in tako preveriti trditev podjetja, izpostavlja BBC.

Regulatorji in banke v skrbeh

Po poročanju britanskega javnega medija naj bi Mythos povzročil zaskrbljenost med regulatorji in finančnimi institucijami glede tveganj, ki jih ta lahko predstavlja za digitalne storitve. Kanadski finančni minister Francois-Philippe Champagne je za BBC potrdil, da so o Mythosu razpravljali tudi na nedavnem zasedanju Mednarodnega denarnega sklada (IMF) v Washingtonu.

“Zdaj moramo zelo pozorno preučiti, kakšen vpliv bi lahko imel ta najnovejši razvoj na področju umetne inteligence na tveganje za kibernetski kriminal,” je za BBC dejal vodja britanske centralne banke Bank of England Andrew Bailey.

Pomembna sprememba

Opisane zmogljivosti modela nakazujejo pomembno spremembo v načinu prepoznavanja in odpravljanja ranljivosti, so glede Mythosa medtem navedli na uradu vlade za informacijsko varnost.

Napredni modeli umetne inteligence lahko po prepričanju urada bistveno pospešijo procese, ki so ključni za varnost digitalnih sistemov, in vplivajo tako na obrambne kot tudi potencialno napadalne kibernetske aktivnosti.

Ob tem ugotavljajo, da za zdaj ni znakov, da bi bile primerljive zmogljivosti za avtomatizirano odkrivanje ranljivosti široko dostopne zlonamernim akterjem. Bloomberg je sicer poročal, da je peščica uporabnikov na zasebnem spletnem forumu dobila nepooblaščen dostop do Mythosa istega dne, ko je Anthropic prvič napovedal načrt za izdajo modela omejenemu številu podjetij za namene testiranja. Skupina od takrat redno uporablja Mythos, vendar ne za namene kibernetske varnosti, je na podlagi neuradnih informacij poročal medij.

Okrepitev varnosti informacijskih sistemov

Kljub temu lahko organizacije v prihodnjih mesecih pričakujejo pospešeno razkrivanje ranljivosti, saj se bodo takšna orodja uporabljala v večjem obsegu. To lahko poveča pritisk na procese upravljanja popravkov, zlasti pri organizacijah, ki uporabljajo zastarele ali nepodprte sisteme, kjer so možnosti za odpravo ranljivosti omejene, so v sporočilu zapisali na uradu.

Organizacijam med drugim priporočajo okrepitev osnovne varnosti informacijskih sistemov ter dosledno izvajanje upravljanja ranljivosti in nameščanja varnostnih popravkov. Svetujejo tudi pripravo ocene tveganj, povezanih z uporabo umetne inteligence, ter pregled in redno posodabljanje inventarja informacijskih oziroma digitalnih sredstev in storitev, še piše STA.

“V kontekstu izvajanja direktive EU o ukrepih za visoko skupno raven kibernetske varnosti in nacionalne zakonodaje je bistvenega pomena, da zavezanci umetno inteligenco vključujejo premišljeno in odgovorno, ob ustreznem upravljanju tveganj,” so še zapisali na uradu za informacijsko varnost.