Kaspersky avverte che i criminali informatici stanno utilizzando l'intelligenza artificiale oscura (Dark AI) per lanciare attacchi.

Il 15 agosto, Kaspersky, un'azienda di sicurezza informatica, ha lanciato un allarme riguardo alla crescente sofisticatezza e alla difficoltà di rilevamento degli attacchi informatici, dovute all'ascesa dell'IA oscura (l'utilizzo dell'intelligenza artificiale per scopi dannosi e illegali) nella regione Asia-Pacifico (APAC).

I rappresentanti dell'azienda di sicurezza Kaspersky hanno fornito informazioni sull'utilizzo dell'intelligenza artificiale oscura (Dark AI) da parte dei criminali informatici nei loro attacchi.

L'IA oscura opera al di fuori degli standard di sicurezza, spesso consentendo comportamenti come frode, manipolazione, attacchi informatici o sfruttamento dei dati senza un'adeguata supervisione.

"Anche gli attori malevoli stanno sfruttando l'IA per potenziare le proprie capacità di attacco. L'uso improprio più comune dell'IA oggi è l'emergere dei modelli Black Hat GPT. Si tratta di modelli di IA specificamente sviluppati o modificati per scopi illeciti, come la creazione di malware, la redazione di email di phishing, la generazione di video audio e deepfake...", ha dichiarato Sergey Lozhkin, responsabile del Global Research and Analysis Team (GReAT) per il Medio Oriente, la Turchia, l'Africa e l'Asia Pacifica di Kaspersky.

I GPT (Graphics Process Tracking) di tipo "black hat" possono esistere come modelli di intelligenza artificiale completamente privati ​​o semi-privati. Alcuni esempi notevoli includono WormGPT, DarkBard, FraudGPT e Xanthorox, tutti progettati per supportare attività di criminalità informatica, frode e automazione dannosa.

Lozhkin ha rivelato che gli esperti di Kaspersky stanno osservando una tendenza ancora più preoccupante: i gruppi di cyberattacco sostenuti da stati o governi stanno iniziando a sfruttare i modelli linguistici di grandi dimensioni (LLM) nelle loro campagne di attacco.

“OpenAI ha recentemente annunciato di aver sventato oltre 20 campagne di influenza occulta e attacchi informatici che sfruttavano i suoi strumenti di intelligenza artificiale. Dovremo affrontare hacker sempre più sofisticati che utilizzano l'IA come arma, diventando una minaccia sia negli ecosistemi pubblici che privati. Si tratta di una tendenza preoccupante alla quale tutte le organizzazioni devono prepararsi”, ha affermato Lozhkin.

Secondo un rapporto di OpenAI, gli hacker hanno iniziato a sfruttare le capacità dei modelli di apprendimento automatico su larga scala (LLM) per ingannare le vittime e aggirare i tradizionali livelli di sicurezza. Sono in grado di creare messaggi falsi convincenti, inviare messaggi di massa alle vittime e produrre contenuti in diverse lingue.

Per rafforzare le difese contro le minacce dell'IA oscura, gli esperti di Kaspersky raccomandano di: utilizzare soluzioni di sicurezza di nuova generazione come Kaspersky Next per rilevare malware generati dall'IA e controllare i rischi della catena di fornitura; applicare strumenti di threat intelligence in tempo reale per monitorare lo sfruttamento delle vulnerabilità basate sull'IA; rafforzare il controllo degli accessi e la formazione del personale per limitare i rischi di IA ombra e di fuga di dati; e istituire un Security Operations Center (SOC) per monitorare le minacce e rispondere rapidamente agli incidenti.

BA TAN

Fonte: https://www.sggp.org.vn/kaspersky-canh-bao-toi-pham-mang-dung-dark-ai-tan-cong-post808493.html