Förutom dess negativa effekter på miljö och resurser håller artificiell intelligens (AI) snabbt på att bli ett högriskverktyg inom cybersäkerhet. Som bevis avslöjade OALABS Research nyligen ett fall där en amatörhackare från Etiopien använde AI-agenter från Claude och OpenAI Codex för att utföra en serie cyberattacker.
Trots att kommandot var fullt av stavfel och grammatiska fel och endast erbjöd vaga instruktioner, lyckades den här personen infiltrera ett flertal privata servrar. Hackaren infiltrerade säkra data från minst 14 företag och planerade till och med att stjäla kryptovaluta värd 4 miljoner dollar.
Amatörhackare använde Claude och Codex för att attackera 14 företag.
Hackare och deras taktiker för att utnyttja AI för att kringgå systembarriärer.
Angriparna kringgick relativt enkelt de robusta säkerhetsåtgärderna i Claude Opus-modellen genom psykologisk manipulation. Genom att utge sig för att vara medlemmar som undersökte säkerhetsbrister lurade hackarna AI-chatboten att automatiskt tillhandahålla hela källkoden för attacken. Systemet beskrev till och med detaljerade utnyttjandemetoder som utpressning, dataförsäljning och gav direkt instruktioner om hur man skulle stjäla data. Denna chatbot blockerade bara en förfrågan som avsiktligt riktade sig mot en specifik familjs personliga digitala konton.
Denna ovanliga incident avslöjades till fullo efter att ett offer vars server komprometterats kontaktade OALABS- experter. Det är värt att notera att den unge hackarens identitet avslöjades helt enkelt för att han tidigare hade begärt att AI:n skulle redigera hans personliga profil. Händelsen väckte djup oro över allmänhetens enkla tillgång till dessa kraftfulla tekniska verktyg utan att kräva specialistkunskaper. Användare skulle enkelt kunna använda en annan AI-mellanhand för att utforma liknande farliga attackkommandon.
För närvarande står teknikjättar som Anthropic och OpenAI stilla i arbetet med att hitta en definitiv lösning för att förhindra sådana attacker. Att skärpa modellens begränsningar skulle direkt beröva genuina säkerhetsforskare möjligheten att stärka systemet. Omvänt skulle ett upprätthållande av status quo lämna gränsen mellan etisk användning och olaglig vinning som ett oöverstigligt hinder för AI. Att hitta den optimala lösningen för att förhindra skadliga användares avsikter är fortfarande en olöst utmaning.
Enligt tidningen Thanh Nien
Källa: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html
