Säkerhetsexpert "lurar" ChatGPT att skriva skadlig kod

Artificiell intelligens (AI) som ChatGPT har varit en global sensation sedan början av 2023, men denna AI används inte alltid i positiva syften. Nyligen hittade en säkerhetsexpert ett sätt att be ChatGPT att skapa skadlig kod under testning.

Aaron Mulgrew, säkerhetsexpert på Forcepoint, delade med sig av risken med att skriva skadlig kod med OpenAI:s språkchatbot. Även om ChatGPT var utformat för att förhindra att användare be AI att designa skadlig kod, hittade Aaron ändå ett kryphål genom att skapa uppmaningar för AI:n att skriva programmeringskod rad för rad. När de kombinerades insåg Aaron att han hade i sina händer ett oupptäckbart verktyg för exekvering av datastöld, så sofistikerat att det var jämförbart med dagens mest sofistikerade skadliga kod.

Varje enskild kommandorad som genereras av ChatGPT kan, när den kombineras, bli sofistikerad skadlig kod.

Mulgrews upptäckt är en väckarklocka om potentialen för att AI kan användas för att skapa farlig skadlig kod utan att en hackergrupp, eller ens verktygets skapare, behöver skriva en enda kodrad.

Mulgrews programvara är förklädd som en skärmsläckare, men kan aktiveras automatiskt på Windows-baserade enheter. Väl inne i operativsystemet "infiltrerar" skadlig programvara varje fil, inklusive Word-textredigerare, bildfiler och PDF-filer, och letar efter data att stjäla.

När programmet väl har det det behöver bryter det ner informationen och bifogar den till bildfiler på maskinen. För att undvika upptäckt laddas bilderna upp till en mapp på Google Drive. Skadlig programvara är så kraftfull eftersom Mulgrew kan justera och förbättra dess funktioner för att undvika upptäckt genom enkla kommandon som matas in i ChatGPT.

Även om detta var ett privat test av säkerhetsexperter och inga attacker utfördes utanför testets omfattning, inser cybersäkerhetsgemenskapen fortfarande faran med aktiviteter som använder ChatGPT. Mulgrew hävdar att han inte har mycket erfarenhet av programmering, men OpenAI:s artificiella intelligens är fortfarande inte tillräckligt stark och smart för att förhindra hans test.

Källänk: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm