Doubao è di proprietà di ByteDance ed è attualmente il chatbot con il maggior numero di utenti in Cina, con 155 milioni di utenti attivi settimanali alla fine di dicembre.
Secondo il team investigativo, Doubao è diventato uno strumento popolare per la creazione di video e immagini deepfake perché le sue misure di sicurezza erano facilmente aggirabili. I volontari di Free Nora si sono infiltrati in gruppi Telegram anonimi e hanno documentato come gli utenti condividevano le proprie esperienze per eludere la censura.
Utilizzano un sistema di crittografia chiamato "fenjue", un insieme di comandi progettati per aggirare la sicurezza dell'intelligenza artificiale. Invece di richiedere direttamente contenuti sensibili, gli utenti forniscono istruzioni come cambiarsi d'abito, modificare la postura o utilizzare slang e parole chiave straniere per eludere il filtro.
Sperimentando con diversi account e modalità di navigazione in incognito, hanno perfezionato i comandi fino a quando il sistema non ha generato immagini rivelatrici. Secondo l'indagine, la piattaforma non richiedeva la verifica dell'identità né l'autorizzazione all'elaborazione delle immagini del volto.
Nora ha scoperto una "rete di condivisione della conoscenza" organizzata all'interno di gruppi di chat. I membri si aiutano a vicenda nell'ottimizzazione del codice, reclutano nuovi membri per "testare il problema" e persino vendono codice o tutorial su piattaforme di e-commerce.
Molte persone utilizzano foto di conoscenti, amici o parenti per effettuare dei test. Coloro che hanno foto pubblicamente disponibili online, come streamer o influencer, diventano spesso bersaglio di attacchi.
Il fenomeno della pornografia deepfake non è esclusivo della Cina. UN Women ha avvertito che si tratta di una nuova forma di cyberbullismo contro le donne, con il 90-95% dei deepfake online che consistono in materiale pornografico non consensuale e la maggior parte delle vittime di sesso femminile.
Free Nora ha anche menzionato la controversia che circonda Grok, lo strumento basato sull'intelligenza artificiale introdotto da Elon Musk. Dopo il lancio della sua funzione di fotoritocco, l'app ha dovuto affrontare una reazione negativa a livello globale ed è stata costretta a limitare la creazione di foto per la maggior parte degli utenti.
Secondo questo gruppo, nella corsa alla crescita e alla competizione tecnologica, alcune piattaforme hanno compromesso la sicurezza delle donne. Chiedono alle aziende cinesi di rafforzare i propri meccanismi di gestione del rischio.
Free Nora avverte che la creazione di deepfake "gratuitamente e senza limiti" conferisce ad attori malintenzionati il controllo virtuale sui corpi altrui, violando l'autonomia e la dignità delle vittime a loro insaputa.
Fonte: https://congluan.vn/chatbot-doubao-cua-trung-quoc-bi-chi-trich-vi-tao-deepfake-khieu-dam-10331594.html
Commento (0)