Artificiell intelligens (AI) som ChatGPT har varit en global sensation sedan början av 2023, men den används inte alltid i positiva syften. Nyligen upptäckte en säkerhetsexpert ett sätt att instruera ChatGPT att generera skadlig kod under testning.
Aaron Mulgrew, säkerhetsexpert på Forcepoint, delade med sig av riskerna med att skriva skadlig kod med OpenAI:s tvåspråkiga chatbot. Även om ChatGPT är utformat för att förhindra att användare begär att AI ska designa skadlig kod, hittade Aaron en sårbarhet genom att skapa kommandon (prompts) för den artificiella intelligensen att skriva kod rad för rad. När dessa kombinerades insåg Aaron att han hade i sina händer ett oupptäckbart exekveringsverktyg för datastöld, så sofistikerat att det kan konkurrera med den mest avancerade skadliga programvaran som för närvarande finns tillgänglig.
Varje enskild kodrad som genereras av ChatGPT kan, när den kombineras, bli sofistikerad skadlig kod.
Mulgrews upptäckt fungerar som en väckarklocka om potentialen att utnyttja AI för att skapa farlig skadlig kod utan behov av några hackergrupper, och utan att skaparna ens skriver en enda kodrad själva.
Mulgrews skadliga kod är förklädd till ett skrivbordsprogram, men den kan aktiveras automatiskt på Windows-enheter. Väl inne i operativsystemet "infiltrerar" den skadliga koden alla filer, inklusive Word-dokument, bildfiler och PDF-filer, för att söka efter data att stjäla.
När programmet väl har fått den information det behöver, bryter det ner den och bäddar in den i bildfiler på datorn. För att undvika upptäckt laddas dessa bilder upp till en mapp i Google Drive-molnlagringen. Skadlig programvara blir otroligt kraftfull eftersom Mulgrew kan finjustera och förbättra sina funktioner för att undvika upptäckt genom enkla kommandon som matas in i ChatGPT.
Även om detta var resultatet av ett privat test utfört av en säkerhetsexpert och inga attacker utfördes utanför testområdet, insåg cybersäkerhetsexperterna fortfarande faran med aktiviteter som använde ChatGPT. Mulgrew uppgav att han själv inte hade mycket erfarenhet av programmering, men OpenAI:s artificiella intelligens var fortfarande inte tillräckligt kraftfull eller intelligent för att stoppa hans test.
[annons_2]
Källänk
Kommentar (0)