Tudi evropske bančnike skrbi zmogljivi Mythos, nov model umetne inteligence
Medtem ko oblasti v ZDA že preučujejo nov model umetne inteligence podjetja Anthropic, Evropa še čaka na dostop.
Evropska centralna banka (ECB) bo v tem tednu organizirala klic z vodilnimi kadri evropskih bank, na katerem bodo govorili o morebitnih grožnjah novega modela umetne inteligence razvijalca Anthropic, poroča Bloomberg. Ta je nedavno zadržal izdajo modela Claude Mythos splošni javnosti, saj se je zbal potencialnih groženj kibernetski varnosti.
ECB bo direktorje bank na klicu vprašala o njihovi oceni tveganj modela Mythos, so za Bloomberg dejali ljudje, ki so seznanjeni z zadevo. Ameriški finančni minister Scott Bessent je prejšnji teden prav tako sklical vodje bank z Wall Streeta na sestanek o morebitnih grožnjah izdelka, ki bi lahko bil znanilec nove dobe kibernetskih napadov.
V ZDA so oblasti dobile dostop do Mythosa, da lahko preučijo njegove zmogljivosti, prav tako nekatere banke, kot je Goldman Sachs. Anthropic je ustanovil tudi projekt Glasswing, kjer je dostop omogočil tehnološkim velikanom in podjetjem s področja kibernetske varnosti. V projektu sodelujejo Apple, Google, Microsoft, Nvidia in Amazon Web Services (AWS), skupaj s še 40 organizacijami. Po navedbah Anthropica ti partnerji pomenijo “zelo velik del skupne svetovne površine kibernetskih napadov”.
V prihodnjem tednu namerava Anthropic omogočiti dostop tudi nekaterim britanskim finančnim institucijam, je v četrtek dejala vodja podjetja za Združeno kraljestvo, Irsko in severno Evropo Pip White.
Evropa čaka na dostop
Evropske banke in uradniki EU medtem še čakajo na podoben dostop in upajo, da bodo neformalno pridobili vpogled v Mythos na srečanjih Svetovne banke in Mednarodnega denarnega sklada ta teden. Ena oseba je za Bloomberg dejala, da bi klic z ECB lahko bil priložnost za izmenjavo takšnih obveščevalnih podatkov.
Predsednica ECB Christine Lagarde je v torkovem intervjuju na Bloombergu pohvalila Anthropic, ker je omejil izdajo Mythosa, dokler se ne premisli o zaščitnih ukrepih. “Razvoj, ki smo ga videli pri Anthropicu in Mythosu, je dober primer odgovornega podjetja, ki nenadoma razmišlja, da to bi lahko bilo zelo dobro – če pade v napačne roke, pa bi lahko bilo zelo slabo,” je dejala.
Mythos je v zadnjih tednih, ko ga je testiral Anthropic, našel na tisoče šibkih točk, tudi v vseh večjih operativnih sistemih in spletnih brskalnikih. Našel je tudi takšne ranljivosti, ki jih človeški programerji ali avtomatski pregledi niso opazili več desetletij. Takšno orodje bi po oceni Anthropica pomenilo veliko tveganje, če bi prišlo v napačne roke.
