Un esperto di sicurezza "inganna" ChatGPT inducendolo a scrivere malware.

L'intelligenza artificiale (IA), come ChatGPT, è diventata una sensazione globale dall'inizio del 2023, ma non sempre viene utilizzata per scopi positivi. Recentemente, un esperto di sicurezza ha scoperto un modo per istruire ChatGPT a generare codice dannoso durante i test.

Aaron Mulgrew, esperto di sicurezza presso Forcepoint, ha illustrato i rischi derivanti dalla scrittura di codice dannoso utilizzando il chatbot bilingue di OpenAI. Sebbene ChatGPT sia progettato per impedire agli utenti di richiedere all'IA di creare malware, Aaron ha scoperto una vulnerabilità creando dei comandi (prompt) che permettevano all'intelligenza artificiale di scrivere codice riga per riga. Combinando questi elementi, Aaron si è reso conto di avere tra le mani uno strumento di esecuzione per il furto di dati non rilevabile, talmente sofisticato da rivaleggiare persino con i malware più avanzati attualmente disponibili.

Ogni singola riga di codice generata da ChatGPT, se combinata con altre, può trasformarsi in un malware sofisticato.

La scoperta di Mulgrew rappresenta un campanello d'allarme riguardo al potenziale sfruttamento dell'intelligenza artificiale per creare malware pericolosi senza bisogno di gruppi di hacker e senza che i creatori debbano scrivere una sola riga di codice.

Il malware di Mulgrew si presenta come un'applicazione desktop, ma può attivarsi automaticamente sui dispositivi Windows. Una volta all'interno del sistema operativo, il malware si "infiltra" in tutti i file, inclusi documenti Word, file immagine e PDF, alla ricerca di dati da rubare.

Una volta ottenute le informazioni necessarie, il programma le scompone e le incorpora in file immagine sul computer. Per evitare il rilevamento, queste immagini vengono caricate in una cartella sul servizio di archiviazione cloud di Google Drive. Il malware diventa incredibilmente potente perché Mulgrew può perfezionare e migliorare le sue funzionalità per eludere il rilevamento tramite semplici comandi inseriti in ChatGPT.

Sebbene si trattasse del risultato di un test privato condotto da un esperto di sicurezza e non fossero stati effettuati attacchi al di fuori dell'area di prova, gli esperti di sicurezza informatica hanno comunque riconosciuto la pericolosità delle attività che utilizzano ChatGPT. Mulgrew ha affermato di non avere molta esperienza nella programmazione, ma che l'intelligenza artificiale di OpenAI non era ancora abbastanza potente o intelligente da fermare il suo test.

Link alla fonte: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm