Antropisk VD varnar för cybersäkerhetskatastrof, världen har bara 12 månader kvar.

VD:n för Anthropic varnar för att världen bara har 6–12 månader på sig att åtgärda tiotusentals programvarusårbarheter som upptäckts av Mythos AI-modell innan kinesisk AI kommer ikapp.

Anthropics VD Dario Amodei uppgav att Mythos – företagets senaste AI-modell – har upptäckt tiotusentals sårbarheter i kritisk programvara. Han varnade särskilt för att regeringar , teknikföretag och banker bara har 6–12 månader på sig att åtgärda dessa problem innan kinesisk AI kommer ikapp.

Anthropics senaste modell har upptäckt tiotusentals sårbarheter i kritisk programvara. Foto: Bloomberg

Dessa kommentarer gjordes vid ett Anthropic-evenemang den 5 maj, där Amodei medverkade tillsammans med JPMorgan Chases VD Jamie Dimon och tillkännagav en ny AI-assistent utformad för att automatisera finansiella uppgifter.

"Faran ligger i den enorma ökningen av antalet sårbarheter, intrång och ekonomiska förluster orsakade av ransomware för skolor, sjukhus, för att inte tala om banker", betonade Amodei.

Anthropic har begränsad tillgång till Mythos till ett fåtal utvalda partnerföretag på grund av oro för vad kriminella eller fientliga nationer kan utnyttja. Medan företagets tidigare modelluppdateringar har mottagits väl på marknaden, är Mythos den produkt som har orsakat mest oro bland både företag och beslutsfattare.

Omfattningen av sårbarheter som kan utnyttjas har exploderat med varje generation av Claude. En tidigare Anthropic-modell hittade runt 20 sårbarheter i webbläsaren Firefox. Mythos har dock upptäckt nästan 300 brister, och det totala antalet sårbarheter i all programvara uppgår nu till tiotusentals.

De flesta av de sårbarheter som Mythos upptäckt förblir opublicerade eftersom de inte har åtgärdats och "illvilliga aktörer skulle utnyttja dem" om de identifierades.

Trots detta uttryckte både Amodei och Dimon optimism – men med villkor.

"Detta är ett farligt ögonblick, men om vi reagerar korrekt kan vi gå mot en bättre värld på andra sidan", sa Amodei.

Dimon noterade också att även om oron kring cyberrymden är helt berättigad, är de cybersäkerhetsrisker som skapas av AI bara en "övergångsfas".

När det gäller reglering menar Amodei att AI-tillsynen bör likna den inom bilindustrin, och hitta en balans mellan konsumentsäkerhet och att låta branschen konkurrera.

”Man kan inte bara starta ett biltillverkningsföretag utan att fråga sig själv: ’Har den här bilen bromsar?’ Vi måste hitta en process som gör det möjligt för industrin att agera snabbt och rättvist, men som ändå skapar hinder för de allvarligaste problemen”, menade han.

(Enligt CNBC)

En bank förkortade sin handläggningstid för kreditbedömningar från 5 dagar till en halv dag tack vare AI . AI hjälpte en vietnamesisk bank att minska den tid det tar att behandla kreditansökningar från 5 dagar till ungefär en halv dag, men tillämpningen av denna teknik innebär betydande utmaningar när det gäller datasäkerhet och personalhantering.

Källa: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html