Sicurezza dei dati nell'era dell'intelligenza artificiale.

I deepfake, gli attacchi di phishing e il furto di identità digitale stanno diventando sempre più sofisticati e possono colpire in qualsiasi momento, prendendo di mira chiunque non possieda competenze di difesa digitale.

Attaccare da ogni angolazione.

Google ha lanciato un nuovo prodotto di intelligenza artificiale (IA) chiamato "Gemini Nano Banana", che non è un'IA linguistica su larga scala (LLM) in grado di scrivere e ragionare, bensì un'IA specializzata nel fotoritocco... Molti utenti sono entusiasti di questo strumento, ma esso presenta anche una serie di svantaggi.

La scuola primaria Tran Hung Dao, nel quartiere di Cau Ong Lanh a Ho Chi Minh City, utilizza un sistema di riconoscimento facciale per registrare le presenze e inviare notifiche ai genitori tramite un'app. Foto: HOANG HUNG

"È come un 'passo indietro' nella tecnologia dell'IA e nei limiti etici", ha affermato Nguyen Hong Phuc, responsabile scientifico di Conductify AI, esprimendo la sua opinione personale. "Gemini Nano Banana ha efficaci capacità di fotoritocco. Ma la rimozione della censura da parte di Google, l'allentamento delle barriere e dei meccanismi di limitazione, consente a questa IA di creare immagini incredibilmente simili a quelle di celebrità, immagini suggestive, immagini sensibili, ecc.", ha aggiunto Phuc.

Secondo il signor Nguyen Hong Phuc, questa capacità rende Gemini Nano Banana uno strumento per creare immagini false così realistiche che persino gli esperti di intelligenza artificiale non riescono a distinguerle, il che comporta nuovi rischi di frode e per la sicurezza informatica, come la creazione di foto false con politici famosi per diffondere informazioni false, e persino la possibilità che individui vengano vittime di manipolazione fotografica e diffamazione tramite intelligenza artificiale sui social media...

Inoltre, con decine di altri strumenti di fotoritocco basati sull'intelligenza artificiale che stanno conquistando internet, le truffe deepfake non mostrano segni di arresto. Le statistiche delle organizzazioni di sicurezza dimostrano che la tecnologia deepfake crea campagne di phishing mirate a individui di alto profilo, in particolare ai leader aziendali. Nel 2024, si sono registrati tra i 140.000 e i 150.000 casi a livello globale, il 75% dei quali ha preso di mira CEO e dirigenti di alto livello... I deepfake potrebbero aumentare le perdite economiche globali del 32%, pari a circa 40 miliardi di dollari all'anno entro il 2027.

Di recente, l'azienda di intelligenza artificiale Anthropic ha individuato e sventato una campagna di attacchi informatici condotta da hacker stranieri, che per la prima volta ha registrato l'utilizzo dell'IA per coordinare attività di attacco automatizzate. Nello specifico, gli hacker hanno utilizzato sistemi di IA per pianificare, dirigere e attuare operazioni di intrusione: uno sviluppo "preoccupante" che rischia di ampliare la portata e la velocità delle campagne di attacchi informatici...

Il signor Ngo Minh Hieu, direttore dell'Organizzazione Antifrode dell'Associazione Nazionale per la Sicurezza Informatica, ha affermato che gli strumenti integrati con l'intelligenza artificiale aumentano la velocità delle frodi di circa 20 volte rispetto all'utilizzo di persone reali. I truffatori forniscono all'IA uno scenario di frode da analizzare e il sistema chatta immediatamente e automaticamente con le vittime. Dai dati iniziali, l'IA è in grado di capire cosa desidera la vittima e comunicare con lei in tempo reale. La tattica più sofisticata è l'attacco "Man-in-the-Middle", in cui quando un utente esegue l'autenticazione video (come registrare il proprio volto o impartire comandi), l'hacker interviene per interferire con i dati trasmessi. I criminali informatici inseriscono quindi video deepfake pre-registrati, sostituendo il flusso di dati reale dell'utente per aggirare il processo di autenticazione. Con questo metodo, anche i sistemi di sicurezza di banche e istituzioni finanziarie rischiano di essere compromessi.

Migliore gestione dei dati

Con la crescente diffusione dell'intelligenza artificiale, aumentano significativamente anche i rischi per la sicurezza e la privacy. I dati archiviati ed elaborati su server remoti diventeranno un obiettivo appetibile per hacker e criminali informatici. Secondo i dati della National Cyber ​​Security Association, solo nel secondo trimestre del 2025 il numero di attacchi informatici basati sull'IA è aumentato del 62%, causando perdite globali fino a 18 miliardi di dollari...

Gli esperti ritengono che la protezione dei dati sia fondamentale. Tuttavia, la raccolta e la vendita di dati continuano apertamente su molte piattaforme del "mercato nero", anche a prezzi irrisori, a partire da soli 20 dollari al mese. I criminali informatici possono utilizzare strumenti che imitano i modelli linguistici, ma sono personalizzati per scopi illeciti. Questi strumenti sono in grado di generare malware e persino di eludere i software antivirus.

In Vietnam, il Decreto n. 13/2023/ND-CP (in vigore dal 17 aprile 2023) disciplina la protezione dei dati personali. Inoltre, la Legge sulla protezione dei dati personali, la cui entrata in vigore è prevista per il 1° gennaio 2026, introdurrà un meccanismo giuridico più solido per affrontare il rischio di fughe e abusi dei dati personali. Tuttavia, secondo la National Cybersecurity Association, l'efficacia dell'applicazione della legge deve ancora essere rafforzata su tre pilastri: sensibilizzazione del pubblico, aumento della responsabilità aziendale e miglioramento della capacità di elaborazione degli enti regolatori. Oltre alle misure tecniche, ogni individuo deve sviluppare la capacità di identificare segnali insoliti e sospetti e proteggersi proattivamente dalle interazioni digitali pericolose.

Kaspersky ha lanciato l'allarme sullo sfruttamento dell'IA oscura (termine che si riferisce all'impiego di modelli linguistici complessi (LLM) che operano al di fuori dei controlli di sicurezza standard, consentendo spesso azioni come phishing, manipolazione, attacchi informatici o abuso di dati). Organizzazioni e singoli individui devono prepararsi ad affrontare attacchi informatici sempre più sofisticati e difficili da rilevare a causa della diffusione dell'IA oscura nella regione Asia-Pacifico.

Sergey Lozhkin, responsabile del Global Research and Analysis Team (GReAT) per le regioni del Medio Oriente, Turchia, Africa e Asia-Pacifico di Kaspersky, ha affermato che una delle manifestazioni dell'attuale abuso dell'IA è l'emergere dei modelli Black Hat GPT. Si tratta di modelli di IA specificamente sviluppati o modificati per scopi non etici e illegali, come la creazione di malware, la realizzazione di email di phishing fluide e persuasive per attacchi su larga scala, la creazione di voci e video deepfake e persino il supporto ad attacchi simulati.

Gli esperti di Kaspersky raccomandano a privati ​​e aziende di utilizzare soluzioni di sicurezza di nuova generazione per rilevare malware generati dall'intelligenza artificiale, dando priorità alla protezione dei dati. Le aziende dovrebbero implementare strumenti di monitoraggio in tempo reale per tracciare lo sfruttamento delle vulnerabilità basate sull'IA; rafforzare il controllo degli accessi e la formazione dei dipendenti per limitare l'IA nella "zona oscura" e il rischio di fughe di dati; e istituire un centro operativo di sicurezza informatica (COC) per monitorare le minacce e rispondere tempestivamente agli incidenti.

KIM THANH

Fonte: https://www.sggp.org.vn/bao-mat-du-lieu-thoi-ai-post824210.html