Anthropics administrerende direktør advarer om cybersikkerhetskatastrofe, verden har bare 12 måneder igjen.

Administrerende direktør i Anthropic advarer om at verden bare har 6–12 måneder på seg til å rette titusenvis av programvaresårbarheter oppdaget av Mythos AI-modellen før kinesisk AI tar igjen.

Anthropics administrerende direktør Dario Amodei uttalte at Mythos – selskapets nyeste AI-modell – har oppdaget titusenvis av sårbarheter i kritisk programvare. Han advarte spesielt om at myndigheter , teknologiselskaper og banker bare har 6–12 måneder på seg til å fikse disse problemene før kinesisk AI tar igjen.

Anthropics nyeste modell har oppdaget titusenvis av sårbarheter i kritisk programvare. Foto: Bloomberg

Disse kommentarene ble gitt på et Anthropic-arrangement 5. mai, hvor Amodei deltok sammen med JPMorgan Chase-sjef Jamie Dimon og annonserte en ny AI-assistent designet for å automatisere økonomiske oppgaver.

«Faren ligger i den enorme økningen i antall sårbarheter, sikkerhetsbrudd og økonomiske tap forårsaket av ransomware for skoler, sykehus, for ikke å nevne banker», understreket Amodei.

Anthropic har begrenset tilgang til Mythos til et utvalg av partnerselskaper på grunn av bekymringer om hva kriminelle eller fiendtlige nasjoner kan utnytte. Selv om selskapets tidligere modelloppdateringer har blitt godt mottatt i markedet, er Mythos fortsatt det mest bekymringsfulle produktet for både bedrifter og beslutningstakere.

Omfanget av utnyttbare sårbarheter har eksplodert med hver generasjon av Claude. En tidligere Anthropic-modell fant rundt 20 sårbarheter i Firefox-nettleseren. Mythos har imidlertid oppdaget nesten 300 feil, og det totale antallet sårbarheter på tvers av all programvare er nå titusenvis.

De fleste sårbarhetene som Mythos oppdaget forblir upubliserte fordi de ikke har blitt oppdatert, og «ondsinnede aktører ville utnytte dem» hvis de ble identifisert.

Til tross for dette uttrykte både Amodei og Dimon optimisme – men med betingelser.

«Dette er et farlig øyeblikk, men hvis vi reagerer riktig, kan vi bevege oss mot en bedre verden på den andre siden», sa Amodei.

Dimon bemerket også at selv om bekymringer om cyberspace er fullt berettigede, er cybersikkerhetsrisikoene som skapes av AI bare en «overgangsfase».

Når det gjelder regulering, argumenterer Amodei for at AI-tilsyn bør være likt det i bilindustrien, og finne en balanse mellom forbrukersikkerhet og å la industrien konkurrere.

«Du kan ikke bare starte et bilproduksjonsselskap uten å spørre deg selv: 'Har denne bilen bremser?' Vi må finne en prosess som lar industrien operere raskt og rettferdig, men som fortsatt setter barrierer mot de mest alvorlige problemene», argumenterte han.

(Ifølge CNBC)

En bank forkortet behandlingstiden for kredittvurderinger fra 5 dager til en halv dag takket være kunstig intelligens . Kunstig intelligens hjalp en vietnamesisk bank med å redusere tiden det tar å behandle kredittsøknader fra 5 dager til omtrent en halv dag, men bruken av denne teknologien byr på betydelige utfordringer når det gjelder datasikkerhet og personaladministrasjon.

Kilde: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html