Lors d'une récente conférence mondiale sur la vérité organisée par le Centre international pour les journalistes (ICFJ), des experts se sont concentrés sur la lutte contre les deepfakes et autres outils d'IA malveillants.
Des conseils ont été donnés sur la manière dont les journalistes peuvent mieux comprendre les menaces que peuvent représenter les technologies de deepfake et sur les mesures à prendre pour les combattre.
Photo : IJN
La technologie et ses menaces
Les technologies en développement rapide permettent aux utilisateurs de modifier les traits du visage, de créer des portraits animés, d'ajouter du mouvement et de reproduire des voix.
Dans cet écosystème, le deepfake est un type de manipulation audiovisuelle qui permet aux utilisateurs de créer des simulations réalistes du visage, de la voix et des actions d'une personne.
Grâce à l'IA, les deepfakes sont produits plus facilement que jamais, et ce, de manière très simple.
Les fausses vidéos de personnalités publiques sont de plus en plus fréquentes, souvent accompagnées d'un son falsifié. Les deepfakes compliquent davantage la tâche des journalistes et des censeurs qui doivent vérifier l'authenticité des vidéos.
D’après Shirin Anlen, spécialiste des technologies médiatiques chez WITNESS, les deepfakes sont la forme de manipulation médiatique la plus souvent évoquée. « On en voit de plus en plus dans l’actualité », a-t-il déclaré.
Bien que les deepfakes soient de plus en plus courants, leur création requiert des compétences et des connaissances considérables, ce qui les rend difficiles à réaliser pour le commun des mortels. Par conséquent, de nombreuses vidéos manipulées n'atteignent pas le niveau d'un véritable deepfake.
Par exemple, les filtres qui modifient la couleur des cheveux, des yeux ou de la voix d'une personne sont des manipulations auxquelles nous sommes confrontés quotidiennement, notamment sur les réseaux sociaux. Les dialogues générés par l'IA et les citations fabriquées de toutes pièces de personnalités publiques en sont un autre exemple.
« Les deepfakes ne sont pas vraiment utilisés à grande échelle », a déclaré Anlen. « La plupart des contenus que l'on observe actuellement en matière de désinformation sont des contrefaçons de faible qualité, généralement remaniées pour en modifier le contexte. »
Comment détecter
Toute nouvelle technologie comporte des failles, et les deepfakes ne font pas exception. Par exemple, les utilisateurs peuvent détecter des erreurs telles qu'une vidéo saccadée, des mouvements de la bouche non synchronisés avec l'audio, etc.
Cependant, la technologie évolue elle aussi très rapidement. À l'ère où l'information prolifère sur les réseaux sociaux, la détection et la réponse rapides sont extrêmement difficiles.
« Les premières générations de deepfakes étaient facilement détectées grâce aux mouvements oculaires. Désormais, les nouvelles générations ont été améliorées : les yeux clignent et ne restent plus immobiles. Cette technologie évolue constamment et deviendra de plus en plus difficile à détecter », a souligné Anlen.
Solutions
Parmi les méthodes de détection des deepfakes, les journalistes peuvent examiner le contenu vidéo pour y déceler les erreurs et les distorsions, appliquer les techniques de vérification et d'analyse médico-légale existantes et utiliser des méthodes basées sur l'IA pour la détection des deepfakes lorsqu'elles sont disponibles.
Il est également essentiel de renforcer les outils d'éducation aux médias et de proposer aux journalistes des formations complémentaires sur la manipulation médiatique.
« Nous devons nous préparer dès maintenant », a déclaré Anlen. « Nous devons comprendre le contexte afin de véritablement façonner la technologie, de façonner la manière dont elle est construite… afin de ne pas être passivement affectés par les nouvelles technologies. »
Hoang Ton (selon IJN)
Source
