Come distinguere un video reale da uno creato dall'intelligenza artificiale.

Se avete mai navigato sui social media, è probabile che vi siate imbattuti in immagini o video creati dall'intelligenza artificiale. Molte persone sono state ingannate, come nel caso del video virale dei conigli che saltano su un trampolino. Ma Sora, un'app gemella di ChatGPT sviluppata da OpenAI, sta portando i video creati con l'IA a un nuovo livello, rendendo sempre più urgente l'individuazione di contenuti falsi.

Gli strumenti di intelligenza artificiale per l'analisi video rendono sempre più difficile identificare i video autentici. (Fonte: CNET)

Lanciata nel 2024 e recentemente aggiornata con Sora 2, quest'app ha un'interfaccia simile a TikTok, dove tutti i video sono generati dall'intelligenza artificiale. La funzione "cameo" permette di inserire persone reali in filmati simulati, creando video di un realismo inquietante.

Pertanto, molti esperti temono che Sora possa favorire la diffusione dei deepfake, distorcendo le informazioni e confondendo i confini tra realtà e finzione. Le celebrità sono particolarmente vulnerabili, il che ha spinto organizzazioni come SAG-AFTRA a chiedere a OpenAI di rafforzare le misure di protezione.

Identificare i contenuti generati dall'intelligenza artificiale rappresenta una sfida importante per le aziende tecnologiche, le piattaforme di social media e gli utenti stessi. Tuttavia, esistono metodi per riconoscere i video creati utilizzando Sora.

Trova la filigrana di Sora

La filigrana Sora (indicata dalla freccia blu) è un indicatore che identifica lo strumento utilizzato per creare il video. (Fonte: CNET)

Ogni video creato con l'app Sora per iOS presenta una filigrana al momento del download: il logo bianco di Sora (l'icona a forma di nuvola) si muove lungo i bordi del video, in modo simile alla filigrana di TikTok.

Questo è un metodo visivo per identificare i contenuti generati dall'IA. Ad esempio, il modello "nano-banana" Gemini di Google aggiunge automaticamente una filigrana alle immagini. Tuttavia, le filigrane non sono sempre affidabili. Se la filigrana è statica, può essere facilmente ritagliata. Anche le filigrane dinamiche, come quella di Sora, possono essere rimosse utilizzando applicazioni specializzate.

Interpellato in merito, il CEO di OpenAI, Sam Altman, ha sostenuto che la società deve adattarsi alla realtà che chiunque può creare video falsi. Prima di Sora, non esisteva uno strumento così popolare, accessibile e che non richiedesse alcuna competenza specifica per la creazione di tali video. La sua prospettiva sottolinea la necessità di affidarsi a metodi di verifica alternativi.

Verifica i metadati

Verifica dei metadati: un passaggio cruciale per determinare se un video è stato creato da un'intelligenza artificiale, come Sora. (Fonte: Canto)

Potreste pensare che controllare i metadati sia troppo complicato, ma in realtà è piuttosto semplice e molto efficace.

I metadati sono un insieme di informazioni associate automaticamente ai contenuti al momento della loro creazione, come il tipo di fotocamera, la posizione, l'ora di registrazione e il nome del file. Che il contenuto sia generato da un essere umano o da un'intelligenza artificiale, è dotato di metadati. Nel caso di contenuti generati dall'IA, i metadati includono spesso informazioni sull'attribuzione della fonte.

OpenAI è membro della Coalition for Content Origin and Authenticity (C2PA), pertanto i video di Sora conterranno metadati C2PA. È possibile verificarlo utilizzando lo strumento di verifica della Content Authenticity Initiative:

Come controllare i metadati:

Visita verify.contentauthenticity.org
Carica il file da controllare.
Premere “Apri”
Consulta le informazioni nella tabella a destra.

Se il video è stato creato dall'IA, il riepilogo lo indicherà chiaramente. Quando si controllano i video su Sora, si vedrà la dicitura "pubblicato da OpenAI" e informazioni che confermano che il video è stato creato utilizzando l'IA. Tutti i video su Sora devono riportare queste informazioni per verificarne l'origine.

Signor Quang

Fonte: https://vtcnews.vn/cach-nhan-biet-video-that-hay-do-ai-tao-ar972891.html