Bezpečnostní expert pomocí ChatGPT „lstí“ napíše škodlivý kód

Umělá inteligence (AI), jako je ChatGPT, je od začátku roku 2023 globální senzací, ale tato AI se ne vždy používá k pozitivním účelům. Nedávno bezpečnostní expert našel způsob, jak požádat ChatGPT o vytvoření škodlivého kódu během testování.

Aaron Mulgrew, bezpečnostní expert ve společnosti Forcepoint, se podělil o riziko psaní malwaru pomocí jazykového chatbota OpenAI. Ačkoli byl ChatGPT navržen tak, aby zabránil uživatelům žádat umělou inteligenci o návrh malwaru, Aaron i tak našel mezeru v systému tím, že vytvořil výzvy pro umělou inteligenci k napsání programovacího kódu řádek po řádku. Když to všechno zkombinoval, Aaron si uvědomil, že má v rukou nedetekovatelný nástroj pro spuštění krádeže dat, tak sofistikovaný, že je srovnatelný s dnešním nejsofistikovanějším malwarem.

Každý jednotlivý příkazový řádek vygenerovaný programem ChatGPT se v kombinaci může stát sofistikovaným malwarem.

Mulgrewův objev je varovným signálem ohledně potenciálu využití umělé inteligence k vytváření nebezpečného malwaru, aniž by bylo nutné, aby hackerská skupina nebo dokonce tvůrce nástroje napsal jediný řádek kódu.

Software společnosti Mulgrew je maskovaný jako spořič obrazovky, ale dokáže se automaticky aktivovat na zařízeních se systémem Windows. Jakmile je malware v operačním systému, „infiltruje“ každý soubor, včetně textových editorů Word, obrazových souborů a PDF, a hledá data k ukrást.

Jakmile má program potřebné informace, rozdělí je a připojí je k obrazovým souborům v počítači. Aby se zabránilo odhalení, obrázky se nahrávají do složky na Disku Google. Malware je tak silný, protože Mulgrew dokáže vylepšit a upravit své funkce, aby se vyhnul odhalení, a to pomocí jednoduchých příkazů zadaných do ChatGPT.

Přestože se jednalo o soukromý test bezpečnostních expertů a mimo jeho rámec nebyly provedeny žádné útoky, komunita kybernetické bezpečnosti si stále uvědomuje nebezpečí aktivit využívajících ChatGPT. Mulgrew tvrdí, že nemá mnoho zkušeností s programováním, ale umělá inteligence OpenAI stále není dostatečně silná a chytrá, aby jeho testu zabránila.

Zdrojový odkaz: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm