Bezpečnostní expert „lstí“ přiměl ChatGPT k napsání malwaru.

Umělá inteligence (AI), jako je ChatGPT, je od začátku roku 2023 globální senzací, ale ne vždy se používá k pozitivním účelům. Nedávno bezpečnostní expert objevil způsob, jak dát ChatGPT pokyn k generování škodlivého kódu během testování.

Aaron Mulgrew, bezpečnostní expert ve společnosti Forcepoint, se podělil o rizika psaní škodlivého kódu pomocí dvojjazyčného chatbota OpenAI. Ačkoli je ChatGPT navržen tak, aby zabránil uživatelům v žádání o návrh malwaru od umělé inteligence, Aaron objevil zranitelnost vytvořením příkazů (promptu), které umělá inteligence používá k psaní kódu řádek po řádku. Po zkombinování těchto prvků si Aaron uvědomil, že má v rukou nedetekovatelný nástroj pro krádež dat, který je tak sofistikovaný, že se může porovnávat i s nejpokročilejším dostupným malwarem.

Každý jednotlivý řádek kódu vygenerovaného ChatGPT se v kombinaci může stát sofistikovaným malwarem.

Mulgrewův objev slouží jako varování před potenciálem zneužití umělé inteligence k vytváření nebezpečného malwaru bez nutnosti zapojení hackerských skupin a bez toho, aby sami tvůrci napsali jediný řádek kódu.

Malware od Mulgrewu je maskovaný jako desktopová aplikace, ale může se automaticky aktivovat na zařízeních se systémem Windows. Jakmile se malware dostane do operačního systému, „infiltruje“ všechny soubory, včetně dokumentů Word, obrazových souborů a PDF, a vyhledává data k ukrást.

Jakmile program získá potřebné informace, rozdělí je a vloží do obrazových souborů v počítači. Aby se zabránilo odhalení, jsou tyto obrázky nahrány do složky v cloudovém úložišti Google Drive. Malware se stává neuvěřitelně silným, protože Mulgrew dokáže pomocí jednoduchých příkazů zadaných do ChatGPT doladit a vylepšit své funkce, aby se vyhnul odhalení.

Přestože se jednalo o výsledek soukromého testu bezpečnostního experta a mimo testovací oblast nebyly provedeny žádné útoky, experti na kybernetickou bezpečnost si i tak uvědomovali nebezpečí aktivit využívajících ChatGPT. Mulgrew uvedl, že sám nemá mnoho zkušeností s programováním, ale umělá inteligence OpenAI stále není dostatečně výkonná ani inteligentní, aby jeho test zastavila.

Zdrojový odkaz: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm