Naast de negatieve gevolgen voor het milieu en de grondstoffen, ontwikkelt kunstmatige intelligentie (AI) zich snel tot een risicovol instrument op het gebied van cyberbeveiliging. Zo onthulde OALABS Research onlangs een geval waarin een amateurhacker uit Ethiopië AI-agenten van Claude en de OpenAI Codex gebruikte om een reeks cyberaanvallen uit te voeren.
Ondanks dat het commando vol spel- en grammaticafouten stond en slechts vage instructies bevatte, wist deze persoon talloze privéservers te hacken. Deze hacker infiltreerde in de beveiligde data van minstens 14 bedrijven en beraamde zelfs een plan om voor 4 miljoen dollar aan cryptovaluta te stelen.
Amateurhackers gebruikten Claude en de Codex om 14 bedrijven aan te vallen.
Hackers en hun tactieken om AI te misbruiken en systeembarrières te omzeilen.
De aanvallers omzeilden de robuuste beveiligingsmaatregelen van het Claude Opus-model relatief gemakkelijk door middel van psychologische manipulatie. Door zich voor te doen als leden die onderzoek deden naar beveiligingslekken, misleidden de hackers de AI-chatbot om automatisch de volledige broncode van de aanval te verstrekken. Het systeem beschreef zelfs gedetailleerde methoden voor exploitatie, zoals afpersing en dataverkoop, en gaf directe instructies over hoe gegevens te stelen. Deze chatbot blokkeerde slechts één verzoek dat specifiek gericht was op de persoonlijke digitale accounts van een bepaalde familie.
Dit ongebruikelijke incident kwam volledig aan het licht nadat een slachtoffer wiens server was gehackt contact opnam met de experts van OALABS . Opvallend genoeg werd de identiteit van de jonge hacker onthuld doordat hij de AI eerder had gevraagd zijn persoonlijke profiel te bewerken. Het incident heeft grote zorgen gewekt over de gemakkelijke toegang van het publiek tot deze krachtige technologische hulpmiddelen zonder dat daarvoor specialistische kennis vereist is. Gebruikers zouden immers gemakkelijk een andere AI-tussenpersoon kunnen inschakelen om soortgelijke gevaarlijke aanvalscommando's te genereren.
Momenteel zitten techreuzen zoals Anthropic en OpenAI vast in hun zoektocht naar een definitieve oplossing om dergelijke aanvallen te voorkomen. Het aanscherpen van de beperkingen van het model zou echte beveiligingsonderzoekers direct de mogelijkheid ontnemen om het systeem te versterken. Omgekeerd zou het handhaven van de status quo de grens tussen ethisch gebruik en illegale winst als een onoverkomelijk obstakel voor AI laten bestaan. Het vinden van de optimale oplossing om kwaadwillige gebruikersintenties te voorkomen blijft een onopgeloste uitdaging.
Volgens de krant Thanh Nien
Bron: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html
