De CEO van Anthropic waarschuwt voor een cyberbeveiligingscatastrofe; de ​​wereld heeft nog maar 12 maanden de tijd.

De CEO van Anthropic waarschuwt dat de wereld slechts 6 tot 12 maanden de tijd heeft om tienduizenden softwarelekken te dichten die door het Mythos AI-model zijn ontdekt, voordat Chinese AI een inhaalslag maakt.

Dario Amodei, CEO van Anthropic, verklaarde dat Mythos – het nieuwste AI-model van het bedrijf – tienduizenden kwetsbaarheden in kritieke software heeft ontdekt. ​​Hij waarschuwde dat overheden , technologiebedrijven en banken slechts 6 tot 12 maanden de tijd hebben om deze problemen op te lossen voordat Chinese AI een inhaalslag maakt.

Het nieuwste model van Anthropic heeft tienduizenden kwetsbaarheden in kritieke software ontdekt. ​​Foto: Bloomberg

Deze opmerkingen werden gemaakt tijdens een evenement van Anthropic op 5 mei, waar Amodei samen met Jamie Dimon, CEO van JPMorgan Chase, verscheen en een nieuwe AI-assistent aankondigde die is ontworpen om financiële taken te automatiseren.

"Het gevaar schuilt in de enorme toename van het aantal kwetsbaarheden, datalekken en financiële verliezen die ransomware veroorzaakt bij scholen, ziekenhuizen en natuurlijk banken," benadrukte Amodei.

Anthropic heeft de toegang tot Mythos beperkt tot een select aantal partnerbedrijven vanwege zorgen over wat criminelen of vijandige landen ermee zouden kunnen uitbuiten. Hoewel de eerdere modelupdates van het bedrijf goed zijn ontvangen in de markt, blijft Mythos het product waar zowel bedrijven als beleidsmakers zich het meest zorgen over maken.

Het aantal exploiteerbare kwetsbaarheden is met elke nieuwe generatie van Claude explosief gestegen. Een eerder Anthropic-model vond ongeveer 20 kwetsbaarheden in de Firefox-browser. Mythos heeft echter bijna 300 kwetsbaarheden ontdekt, en het totale aantal kwetsbaarheden in alle software loopt nu in de tienduizenden.

De meeste kwetsbaarheden die Mythos heeft ontdekt, blijven geheim omdat ze nog niet zijn verholpen en "kwaadwillende actoren er misbruik van zouden maken" als ze aan het licht zouden komen.

Desondanks toonden zowel Amodei als Dimon zich optimistisch, maar wel onder bepaalde voorwaarden.

"Dit is een gevaarlijk moment, maar als we op de juiste manier reageren, kunnen we aan de andere kant op weg gaan naar een betere wereld ," aldus Amodei.

De heer Dimon merkte ook op dat, hoewel de zorgen over het cyberruim volkomen terecht zijn, de cyberbeveiligingsrisico's die door AI worden gecreëerd slechts een "overgangsfase" vormen.

Wat de regelgeving betreft, betoogt Amodei dat het toezicht op AI vergelijkbaar zou moeten zijn met dat in de auto-industrie, waarbij een evenwicht moet worden gevonden tussen de veiligheid van de consument en het concurrentievermogen van de sector.

"Je kunt niet zomaar een autofabriek beginnen zonder jezelf af te vragen: 'Heeft deze auto wel remmen?' We moeten een proces vinden dat de industrie in staat stelt snel en eerlijk te werken, maar tegelijkertijd de ernstigste problemen aanpakt," betoogde hij.

(Volgens CNBC)

Een bank heeft dankzij AI de verwerkingstijd van kredietaanvragen verkort van 5 dagen naar een halve dag . AI hielp een Vietnamese bank de verwerkingstijd van kredietaanvragen terug te brengen van 5 dagen naar ongeveer een halve dag, maar de toepassing van deze technologie brengt aanzienlijke uitdagingen met zich mee op het gebied van gegevensbeveiliging en personeelsbeheer.

Bron: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html