Sikkerhetsekspert «lurer» ChatGPT til å skrive ondsinnet kode

Kunstig intelligens (KI) som ChatGPT har vært en global sensasjon siden tidlig i 2023, men denne KI-en brukes ikke alltid til positive formål. Nylig fant en sikkerhetsekspert en måte å be ChatGPT om å lage ondsinnet kode under testing.

Aaron Mulgrew, en sikkerhetsekspert hos Forcepoint, delte risikoen ved å skrive skadelig programvare ved hjelp av OpenAIs språklige chatbot. Selv om ChatGPT var designet for å forhindre at brukere ba AI om å designe skadelig programvare, fant Aaron fortsatt et smutthull ved å lage forespørsler som AI-en skulle bruke for å skrive programmeringskode linje for linje. Når de ble kombinert, innså Aaron at han hadde i hendene et uoppdagbart verktøy for utførelse av datatyveri, så sofistikert at det var sammenlignbart med dagens mest sofistikerte skadelige programvare.

Hver enkelt kommandolinje generert av ChatGPT kan, når den kombineres, bli til sofistikert skadelig programvare.

Mulgrews oppdagelse er en vekker om potensialet for at AI kan brukes til å lage farlig skadelig programvare uten behov for en hackergruppe, eller til og med verktøyets skaper, som skriver en eneste kodelinje.

Mulgrews programvare er forkledd som et skjermbeskytterprogram, men kan aktiveres automatisk på Windows-baserte enheter. Når den er i operativsystemet, "infiltrerer" skadevaren alle filer, inkludert Word-tekstredigeringsprogrammer, bildefiler og PDF-filer, og søker etter data å stjele.

Når programmet har det det trenger, bryter det ned informasjonen og legger den ved bildefiler på maskinen. For å unngå å bli oppdaget lastes bildene opp til en mappe på Google Drive. Skadevaren er så kraftig fordi Mulgrew kan justere og forbedre funksjonene for å unngå å bli oppdaget gjennom enkle kommandoer som legges inn i ChatGPT.

Selv om dette var en privat test utført av sikkerhetseksperter og ingen angrep ble utført utenfor testområdet, erkjenner cybersikkerhetsmiljøet fortsatt faren ved aktiviteter som bruker ChatGPT. Mulgrew hevder at han ikke har mye erfaring med programmering, men OpenAIs kunstige intelligens er fortsatt ikke sterk og smart nok til å forhindre testen hans.

Kildekobling: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm