I deepfake si stanno diffondendo e la corsa dell'intelligenza artificiale per combattere il fuoco con il fuoco si sta intensificando.

AI - Ảnh 1. — La lotta contro i deepfake, mentre l'intelligenza artificiale diventa al contempo un'arma e uno scudo.

Nell'era dell'intelligenza artificiale, il confronto tra criminali informatici e aziende di sicurezza non è più semplicemente una corsa tecnologica, ma uno sforzo per riconquistare la fiducia erosa da contenuti falsi sempre più sofisticati.

Quando ciò che vedi e senti non è più affidabile.

Solo pochi anni fa, gli utenti potevano identificare i deepfake attraverso segnali piuttosto "rudimentali" come espressioni facciali innaturali, movimenti della bocca non corrispondenti o movimenti oculari insoliti. Tuttavia, questi metodi sono diventati rapidamente obsoleti con lo sviluppo della tecnologia AI.

Attualmente, l'intelligenza artificiale è in grado di ricreare immagini e voci con un'altissima precisione, simulando persino sottili vibrazioni della voce umana. In un esperimento condotto dalla giornalista Gaby Del Valle, utilizzando solo 9 secondi di audio raccolto dai social media, il sistema di intelligenza artificiale ha creato una versione falsa in grado di sostenere una conversazione in modo quasi convincente.

Nella vita di tutti i giorni, l'intuito può ancora aiutare le persone a individuare anomalie. Tuttavia, sul posto di lavoro o nelle transazioni finanziarie, dove le informazioni vengono elaborate rapidamente e il tempo è un fattore cruciale, questi segnali sospetti vengono facilmente trascurati, aumentando il rischio di essere truffati.

I deepfake non sono più limitati ai contenuti di intrattenimento online; i criminali informatici li sfruttano ora per truffe organizzate. Possono raccogliere dati pubblicamente disponibili sui social media per creare una "banca vocale" di dipendenti all'interno di un'azienda, quindi utilizzare l'intelligenza artificiale per impersonare dirigenti o colleghi ed effettuare chiamate in cui si richiedono trasferimenti di denaro.

I danni causati da questi episodi sono ingenti. Ogni truffa deepfake può costare alle aziende centinaia di migliaia di dollari. Ancora più preoccupante è il fatto che questi scenari spesso sfruttano il senso di urgenza della vittima, ad esempio impersonando una persona cara per chiedere aiuto, inducendola ad abbassare la guardia in brevissimo tempo.

"Combattere il fuoco con il fuoco" utilizzando l'intelligenza artificiale.

Per contrastare questo fenomeno, molte startup nel settore della sicurezza stanno adottando un approccio inverso: utilizzare l'intelligenza artificiale stessa per rilevare i deepfake.

Un approccio comune è il modello "maestro-apprendista" nell'apprendimento automatico. Il sistema viene addestrato utilizzando grandi quantità di dati reali e falsi per imparare a identificare tracce tecniche che gli esseri umani non possono vedere a occhio nudo.

Questo approccio crea un ciclo continuo: man mano che i deepfake diventano più sofisticati, i sistemi di rilevamento devono essere costantemente aggiornati per stare al passo. La corsa, quindi, sembra non avere fine.

Tuttavia, la sfida sta nel fatto che il costo di creazione di contenuti falsi sta diventando sempre più basso grazie all'uso diffuso di modelli di intelligenza artificiale, mentre il rilevamento e la difesa richiedono risorse significativamente maggiori.

Un nuovo approccio consiste nello stabilire standard per la verifica dell'origine dei contenuti, aiutando gli utenti a sapere da dove provengono i dati e se sono stati modificati. Tuttavia, questa soluzione presenta ancora il rischio di falsificazione se non esiste un sistema di verifica rigoroso.

A lungo termine, si prevede che gli strumenti di rilevamento dei deepfake diventeranno il livello di protezione predefinito, integrati direttamente nei browser, nelle piattaforme digitali o nell'infrastruttura internet, in modo simile al ruolo che i software antivirus svolgono oggi.

Torniamo all'argomento

MAR ORIENTALE

Fonte: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm