Kromě negativních dopadů na životní prostředí a zdroje se umělá inteligence (AI) rychle stává vysoce rizikovým nástrojem v oblasti kybernetické bezpečnosti. Jako důkaz nedávno odhalila společnost OALABS Research případ, kdy amatérský etiopský hacker použil agenty umělé inteligence od Claude a OpenAI Codex k provedení série kybernetických útoků.
Přestože příkaz obsahoval spoustu pravopisných a gramatických chyb a nabízel pouze vágní instrukce, tomuto jedinci se podařilo napadnout řadu soukromých serverů. Hacker infiltroval zabezpečená data nejméně 14 společností a dokonce plánoval krádež kryptoměny v hodnotě 4 milionů dolarů.

Amatérští hackeři použili Clauda a Codex k útoku na 14 podniků.
Hackeři a jejich taktiky zneužívání umělé inteligence k obcházení systémových bariér.
Útočníci poměrně snadno obešli robustní bezpečnostní opatření modelu Claude Opus pomocí psychologické manipulace. Hackeři se vydávali za členy zkoumající bezpečnostní zranitelnosti a oklamali chatbota s umělou inteligencí, aby automaticky poskytl celý zdrojový kód útoku. Systém dokonce popsal podrobné metody zneužití, jako je vydírání, prodej dat a přímo instruoval, jak data ukrást. Tento chatbot zablokoval pouze jeden požadavek, který záměrně cílil na osobní digitální účty konkrétní rodiny.
Tento neobvyklý incident byl plně odhalen poté, co oběť, jejíž server byl napaden, kontaktovala experty OALABS . Je pozoruhodné, že identita mladého hackera byla odhalena jednoduše proto, že dříve požádal umělou inteligenci o úpravu svého osobního profilu. Incident vyvolal hluboké obavy ohledně snadného přístupu veřejnosti k těmto výkonným technologickým nástrojům bez nutnosti specializovaných znalostí. Uživatelé mohli snadno použít jiného zprostředkovatele umělé inteligence k vytvoření podobných nebezpečných útočných příkazů.
Technologičtí giganti jako Anthropic a OpenAI v současné době zastavili hledání definitivního řešení, jak takovým útokům zabránit. Zpřísnění omezení modelu by přímo připravilo skutečné bezpečnostní výzkumníky o možnost systém posílit. Naopak, zachování současného stavu by hranici mezi etickým užíváním a nezákonným ziskem učinilo pro umělou inteligenci nepřekonatelnou překážkou. Nalezení optimálního řešení pro prevenci zlých úmyslů uživatelů zůstává nevyřešenou výzvou.
Podle novin Thanh Nien
Zdroj: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html








