Utilisation d'outils d'IA pour corriger les défauts des produits basés sur l'IA

Les fausses informations deviennent de plus en plus sophistiquées grâce à la manipulation par l'IA.

Lors de la récente rencontre à Hanoï entre l'Association des journalistes vietnamiens et l'Association des journalistes thaïlandais, les dirigeants des deux associations ont consacré l'essentiel de leur temps à évoquer le problème des « fausses informations » et ont déclaré qu'il ne s'agissait plus d'un problème national, mais d'un problème majeur, ayant des répercussions imprévisibles dans la région et dans le monde.

Selon une étude de Google DeepMind, la création d'images, de vidéos et d'enregistrements audio imitant des êtres humains est presque deux fois plus fréquente que la création de désinformation à l'aide d'outils comme les chatbots d'IA.

Des deepfakes du Premier ministre britannique Rishi Sunak et d'autres dirigeants mondiaux sont apparus sur TikTok, X et Instagram ces derniers mois, suscitant des inquiétudes quant au fait que, malgré les efforts des réseaux sociaux pour étiqueter ou supprimer ce contenu, le public pourrait ne pas le reconnaître comme faux et sa diffusion pourrait influencer les électeurs.

Des photos truquées du Premier ministre britannique Rishi Sunak sont apparues sur TikTok et Instagram à l'approche des élections générales. (Photo : AFP)

Évaluant l'impact des fausses informations à l'ère du numérique, Luong Dong Son, titulaire d'une maîtrise et maître de conférences à l'Institut de journalisme et de communication de l'Académie de journalisme et de propagande, a déclaré que le résultat de la combinaison de l'intelligence artificielle et de la désinformation, également appelée « fausses informations surréalistes », peut fausser la perception du public quant aux événements et aux problèmes sociaux, influençant ainsi sa manière d'évaluer la situation et de prendre des décisions. Cela peut avoir de graves conséquences, allant de petites décisions personnelles à des décisions importantes qui affectent la communauté et le pays.

Les fausses informations à grande échelle peuvent servir à manipuler l'opinion publique, inciter à la violence, semer la division et déstabiliser la société. Sur le plan politique, elles peuvent éroder la confiance dans les institutions démocratiques, influencer les résultats électoraux et même attiser les conflits.

Concernant les défis rencontrés par les journalistes et les organes de presse, Luong Dong Son, titulaire d'une maîtrise ès sciences, a déclaré que la sophistication des fausses nouvelles surréalistes, en particulier les deepfakes, rend la distinction entre le vrai et le faux de plus en plus difficile, même pour les journalistes expérimentés.

« À l’ère de l’explosion de l’information, le public exige de plus en plus des journalistes et des médias qu’ils fournissent une information rapide et précise. Or, cette pression peut inciter les journalistes à publier hâtivement des informations sans vérification rigoureuse, créant ainsi un terrain propice à la propagation de fausses nouvelles, parfois invraisemblables. De plus, les journalistes et les médias s’exposent à des risques juridiques et déontologiques s’ils ne font pas preuve de la plus grande vigilance dans la vérification et la publication des informations », a déclaré M. Son.

Utilisez l'IA pour vérifier les informations

Selon Luong Dong Son, titulaire d'une maîtrise ès sciences, pour lutter contre ce type de fausses informations, il est absolument nécessaire d'appliquer des solutions technologiques modernes.

« Ces solutions ne se contentent pas de détecter et d'éliminer les fausses informations, elles visent également à les prévenir dès les premières étapes de leur production », a déclaré Dong Son, MSc.

Premièrement, selon M. Son, l'une des technologies les plus importantes aujourd'hui est l'utilisation de systèmes d'intelligence artificielle pour détecter les fausses informations. Les systèmes d'IA modernes sont capables d'analyser le contexte, de comparer les informations provenant de sources multiples et de détecter les anomalies dans le contenu informationnel. Un exemple typique est l'utilisation de l'IA pour analyser des vidéos et des images afin de détecter les signes de manipulation ou de production à l'aide de la technologie deepfake.

Par ailleurs, les plateformes de médias sociaux et les moteurs de recherche déploient activement des algorithmes d'apprentissage automatique pour classer et filtrer automatiquement les fausses informations avant qu'elles ne deviennent virales. Ces algorithmes sont conçus pour détecter les anomalies dans les habitudes de partage, la vitesse de diffusion, voire le ton des publications, afin d'évaluer la probabilité que l'information soit fausse.

Par ailleurs, le recours à la technologie blockchain pour gérer la traçabilité des informations constitue également une solution potentielle. La blockchain permet de créer un système d'authentification transparent et immuable, contribuant ainsi à retracer l'origine et l'historique de toutes les informations et garantissant leur exactitude et leur fiabilité.

L'IA peut créer de faux contenus ou des informations et images trompeuses difficiles à distinguer, causant un préjudice considérable à la réputation des individus et des organisations, et pouvant même nuire aux intérêts nationaux et ethniques.

Partageant le même avis que Luong Dong Son, M. Phan Van Tu, chef du département de journalisme de la faculté de journalisme et de communication de l'université des sciences sociales et humaines de Hô Chi Minh-Ville, a souligné qu'en plus de fournir des compétences pour exploiter les atouts de l'IA en journalisme, nous devons également utiliser les outils d'IA pour vérifier l'information.

La vérification des sources, qui consiste essentiellement à évaluer la fiabilité d'une source, est une compétence importante qui implique de vérifier la source de l'information, de la comparer à d'autres sources et d'utiliser des outils de vérification des faits pour en vérifier la fiabilité.

Ce qui est intéressant, c'est qu'il existe actuellement de nombreux outils intégrant l'IA pour aider les journalistes dans le processus de vérification, en plus des outils traditionnels utilisés par les vérificateurs de faits comme Google Images, la recherche d'images inversée Tineye, Whopostedwhat.com, Wayback Machine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

M. Phan Van Tu a déclaré que la formation des journalistes aux compétences professionnelles actuelles exige de veiller à leur fournir une capacité de vérification de l'information face aux attaques de fausses nouvelles manipulées par l'IA. « L'utilisation d'outils d'IA pour corriger les erreurs liées à l'IA est le moyen le plus rapide d'aider les journalistes et les agences de presse non seulement à bien remplir leurs fonctions, mais aussi à contribuer à l'amélioration de la qualité de l'information et à la protection du public contre la désinformation et les effets néfastes des médias », a affirmé M. Tu.

Toutefois, M. Tu a également souligné que la capacité des journalistes à évaluer l'information ne peut reposer uniquement sur des outils. Il convient de préciser d'emblée que l'IA peut faciliter l'analyse du contenu journalistique, mais qu'elle ne peut détecter tous les types de fausses informations et de manipulations. Les logiciels d'IA peuvent encore être trompés par les techniques d'IA qu'ils utilisent pour la détection.

« Aucun outil n’est une baguette magique, mais les outils d’IA qui détectent les fausses photos/vidéos restent une ressource précieuse dans le cadre d’un processus de vérification ou d’une méthode de diligence raisonnable », a déclaré Phan Van Tu.

Hoa Giang

Source : https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html