Utilisation d'outils d'IA pour corriger les défauts des produits basés sur l'IA

Les fausses nouvelles deviennent de plus en plus sophistiquées grâce à la manipulation de l'IA

Récemment, lors de la réunion entre l'Association des journalistes du Vietnam et l'Association des journalistes thaïlandais qui s'est tenue à Hanoi, les dirigeants des deux associations ont passé la majeure partie de leur temps à évoquer le problème des « fake news » et ont déclaré qu'il ne s'agissait plus d'un problème national mais d'un gros problème, provoquant des impacts imprévisibles dans la région et dans le monde.

Selon une étude de Google DeepMind, la création d'images, de vidéos et d'audios imitant des humains est presque deux fois plus courante que la création de fausses informations à l'aide d'outils tels que les chatbots IA.

Des deepfakes du Premier ministre britannique Rishi Sunak et d'autres dirigeants mondiaux sont apparus sur TikTok, X et Instagram ces derniers mois, avec des inquiétudes selon lesquelles malgré les efforts des réseaux sociaux pour étiqueter ou supprimer le contenu, le public pourrait ne pas le reconnaître comme faux et sa diffusion pourrait influencer les électeurs.

Des faux portraits du Premier ministre britannique Rishi Sunak sont apparus sur TikTok et Instagram à l'approche des élections générales. (Photo : AFP)

Évaluant l'impact des fausses nouvelles à l'ère des technologies, Luong Dong Son, maître de conférences à l'Institut de journalisme et de communication de l'Académie de journalisme et de propagande, a déclaré que le produit de la combinaison de l'IA et de la désinformation, aussi appelé fausses nouvelles surréalistes, peut fausser la perception publique des événements et des enjeux sociaux, affectant ainsi la façon dont le public évalue la situation et prend des décisions. Cela peut avoir de graves conséquences, allant de simples décisions personnelles à des décisions importantes qui affectent la communauté et le pays.

Les fausses nouvelles peuvent servir à manipuler l'opinion publique, inciter à la violence, semer la division et compromettre la stabilité sociale. Sur la scène politique, elles peuvent saper la confiance dans les institutions démocratiques, influencer les résultats des élections et même inciter au conflit.

Concernant les défis auxquels sont confrontés les journalistes et les organes de presse, le MSc Luong Dong Son a déclaré que la sophistication des fausses nouvelles surréalistes, en particulier les deepfakes, rend la distinction entre le vrai et le faux de plus en plus difficile, même pour les journalistes expérimentés.

« À l'ère de l'explosion de l'information, le public exige de plus en plus des journalistes et des médias qu'ils fournissent des informations rapides et précises. Cependant, cette pression peut inciter les journalistes à publier des informations à la hâte, sans vérification minutieuse, ce qui favorise la propagation de fausses informations surréalistes. De plus, les journalistes et les médias s'exposent à des risques juridiques et éthiques s'ils ne vérifient pas et ne publient pas les informations avec soin », a déclaré M. Son.

Demandez à l'IA de vérifier les informations

Selon le MSc Luong Dong Son, pour faire face à ce type de fausses nouvelles, l'application de solutions technologiques modernes est extrêmement nécessaire.

« Ces solutions visent non seulement à détecter et à éliminer les fausses informations, mais aussi à les prévenir dès les premières étapes de leur production », a déclaré Dong Son, MSc.

Premièrement, selon M. Son, l'une des technologies les plus importantes aujourd'hui est l'utilisation de systèmes d'intelligence artificielle pour détecter les fausses informations. Les systèmes d'IA modernes sont capables d'analyser le contexte, de comparer des informations provenant de sources multiples et de détecter des anomalies dans le contenu. Un exemple typique est l'utilisation de l'IA pour analyser des vidéos et des images afin de détecter des signes de montage ou de production utilisant la technologie deepfake.

Par ailleurs, les plateformes de réseaux sociaux et les moteurs de recherche déploient activement des algorithmes d'apprentissage automatique pour classer et filtrer automatiquement les fausses informations avant qu'elles ne deviennent virales. Ces algorithmes sont conçus pour détecter les anomalies dans les schémas de partage, la vitesse de propagation ou même le ton des publications, évaluant ainsi la probabilité que l'information soit fausse.

Par ailleurs, l'utilisation de la technologie blockchain pour gérer l'origine des informations constitue également une solution potentielle. La blockchain permet de créer un système d'authentification transparent et immuable, permettant ainsi de retracer l'origine et l'historique de toutes les informations, garantissant ainsi leur exactitude et leur fiabilité.

L’IA peut créer de faux contenus ou des informations et images trompeuses difficiles à distinguer, causant de graves dommages à la réputation des individus et des organisations, et portant même atteinte aux intérêts nationaux et ethniques.

Partageant le même avis que le MSc. Luong Dong Son, M. Phan Van Tu - Chef du Département de journalisme - Faculté de journalisme et de communication, Université des sciences sociales et humaines, Hô Chi Minh-Ville a souligné qu'en plus de fournir des compétences pour exploiter les atouts de l'IA pour le journalisme, nous devons également utiliser des outils d'IA pour vérifier les informations.

La vérification de la source, qui consiste essentiellement à évaluer la fiabilité d’une source, est une compétence importante qui implique de vérifier la source de l’information, de la comparer avec d’autres sources et d’utiliser des outils de vérification des faits pour vérifier la fiabilité.

Ce qui est intéressant, c'est qu'il existe actuellement de nombreux outils intégrés à l'IA qui aident les journalistes dans le processus de vérification, en plus des outils traditionnels qui prennent en charge les vérificateurs de faits tels que Google Image, la recherche d'images inversée Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

M. Phan Van Tu a déclaré que la formation professionnelle des journalistes dans la période actuelle exige de veiller à la mise en place de capacités de vérification de l'information contre les fausses informations manipulées par l'IA. « L'utilisation d'outils d'IA pour gérer les erreurs liées à l'IA est le moyen le plus rapide d'aider les journalistes et les agences de presse non seulement à bien remplir leur rôle, mais aussi à améliorer la qualité de l'information et à protéger le public contre les fausses informations et les effets négatifs des médias », a déclaré M. Tu.

Cependant, M. Tu a également souligné que la capacité des journalistes à évaluer l'information ne peut pas reposer uniquement sur des outils. Il faut dire d'emblée que l'IA peut faciliter l'analyse du contenu des actualités, mais ne peut détecter tous les types de fausses nouvelles et d'informations manipulées. Les logiciels d'IA peuvent néanmoins être trompés par les techniques de détection qu'ils utilisent.

« Aucun outil n’est une baguette magique, mais les outils d’IA qui détectent les fausses photos/vidéos restent une ressource précieuse dans le cadre d’un processus de vérification ou d’une méthode de diligence raisonnable », a déclaré Phan Van Tu.

Hoa Giang

Source: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html