Audio deepfake: una nuova preoccupazione in materia di disinformazione.

Lunedì, l'ufficio del procuratore generale del New Hampshire ha annunciato di aver avviato un'indagine su una potenziale manipolazione elettorale. Ciò fa seguito a una denuncia riguardante una voce falsa, identica a quella del presidente degli Stati Uniti Joe Biden, che esortava gli elettori a non votare alle elezioni primarie dello stato.

I ricercatori hanno anche messo in guardia contro l'uso di audio deepfake per impersonare politici e leader, con casi notevoli verificatisi nel 2023 nel Regno Unito, in India, Nigeria, Sudan, Etiopia e Slovacchia.

Diffusione di audio deepfake, nuove fughe di notizie e informazioni fuorvianti (Immagine 1) — Una persona vota alle elezioni primarie nel New Hampshire, Stati Uniti. Foto: Getty

Secondo gli esperti, l'audio deepfake è diventato una forma comune di disinformazione a causa della comparsa di una serie di strumenti di intelligenza artificiale economici ed efficaci sviluppati da startup. Anche Microsoft ha sviluppato un nuovo modello di intelligenza artificiale in grado di replicare il parlato a partire da soli tre secondi di registrazione.

Henry Ajder, esperto di intelligenza artificiale e deepfake e consulente di Adobe, Meta ed EY, ha affermato: "Quando si parla di manipolazione visiva, tutti conoscono Photoshop o almeno sanno che esiste. C'è pochissima consapevolezza di come il materiale audio possa essere manipolato, e questo, a mio avviso, ci rende davvero vulnerabili".

A settembre, NewsGuard, un sistema di valutazione della qualità e dell'affidabilità dei siti web di notizie, ha scoperto una rete di account TikTok che impersonavano siti di notizie legittimi, utilizzando contenuti generati dall'intelligenza artificiale per diffondere teorie del complotto e disinformazione politica. Registrazioni audio deepfake, tra cui la voce dell'ex presidente degli Stati Uniti Barack Obama, hanno totalizzato centinaia di milioni di visualizzazioni.

Secondo quanto riportato da NewsGuard, la falsa voce fuori campo sembra essere stata creata utilizzando uno strumento supportato da ElevenLabs di Andreessen Horowitz, e i video hanno totalizzato centinaia di milioni di visualizzazioni.

"Oltre il 99% degli utenti sulla nostra piattaforma crea contenuti coinvolgenti, creativi e utili, ma abbiamo notato casi di uso improprio e abbiamo continuato a sviluppare e implementare misure di sicurezza per mitigarli", ha dichiarato ElevenLabs.

ElevenLabs, fondata due anni fa dagli ex dipendenti di Google e Palantir Piotr Dabkowski e Mati Staniszewski, offre strumenti gratuiti e rudimentali per la creazione di audio tramite intelligenza artificiale, attivabili con un solo clic. Gli abbonamenti variano da 1 dollaro al mese a 330 dollari al mese, con prezzi ancora più elevati per chi desidera servizi più sofisticati.

Lo scorso anno, le agenzie di intelligence statunitensi hanno avvertito in un rapporto che "le truffe basate sull'intelligenza artificiale per la personalizzazione sono aumentate significativamente a causa del rilascio di modelli di clonazione vocale basati sull'IA, sofisticati e ben addestrati".

Oltre alle truffe a scopo di lucro, gli esperti politici stanno ora lanciando l'allarme sulla diffusione di clip audio deepfake e sul loro utilizzo per chiamate o campagne automatizzate. "È possibile costruire una campagna di disinformazione potente e capillare prendendo di mira i telefoni", ha affermato AJ Nash, vicepresidente e membro di spicco del gruppo di sicurezza informatica ZeroFox.

Alcune di queste aziende hanno cercato attivamente metodi alternativi per combattere la disinformazione. Microsoft ha pubblicato una dichiarazione etica, esortando gli utenti a segnalare qualsiasi uso improprio del suo strumento audio basato sull'intelligenza artificiale. ElevenLabs ha sviluppato i propri strumenti di rilevamento per identificare le registrazioni generate dal suo sistema.

Secondo l'organizzazione per i diritti umani Freedom House, durante le elezioni nigeriane del 2023, un video manipolato dall'intelligenza artificiale è circolato sui social media "suggerendo deliberatamente che un candidato dell'opposizione stesse pianificando di truccare il voto".

In Slovacchia, pochi giorni prima delle elezioni presidenziali di settembre, è stata diffusa una falsa registrazione audio del candidato dell'opposizione Michal Šimečka, apparentemente in cui si parlava di un complotto per truccare le elezioni.

Robert Weissman, presidente dell'organizzazione no-profit per la tutela dei consumatori Public Citizen, ha dichiarato: "Il deepfake nel New Hampshire ci ricorda i molti modi in cui i deepfake possono essere fuorvianti e fraudolenti. È giunto il momento dei deepfake politici. I responsabili politici devono implementare rapidamente delle misure di sicurezza, altrimenti ci troveremo di fronte al caos elettorale".

Mai Anh (secondo il Financial Times)

Fonte