Le défi de l'intégrité de l'information face à l'accélération du développement et de l'adoption de l'IA

Risques potentiels liés à la diffusion de fausses informations

La science et la technologie n'affectent pas seulement la manière dont la presse et les médias transmettent leurs messages et influencent l'accès du public à l'information, mais elles ont aussi un impact profond sur sa qualité.

En réalité, le journalisme a su s'adapter rapidement aux innovations technologiques, notamment ces dernières années. L'intelligence artificielle (IA) s'est progressivement imposée dans les médias et les rédactions des agences de presse. Son application a été bénéfique tant pour les journalistes que pour les médias. Elle libère les journalistes des tâches quotidiennes fastidieuses, leur permettant ainsi de gagner du temps et de se concentrer sur des missions plus créatives et à plus forte valeur ajoutée.

Bien que l'IA présente de nombreux avantages, elle soulève également certaines inquiétudes. L'un des risques les plus importants réside dans la possibilité que les contenus générés par l'IA diffusent de la désinformation.

Le défi de l'intégrité de l'information face à l'accélération du développement et de l'application de l'IA¹ — Les dix principales agences de presse mondiales appellent à des négociations collectives et transparentes entre les médias et les développeurs d'IA afin de contrôler quels documents protégés par le droit d'auteur peuvent être utilisés pour l'entraînement des outils d'IA, ainsi que d'éliminer les biais dans les algorithmes d'IA.

La semaine dernière, dix des principales agences de presse mondiales ont signé une lettre réclamant transparence et une législation claire sur le droit d'auteur concernant l'intelligence artificielle. Ces agences ont fait valoir que l'IA pourrait « menacer la pérennité de l'écosystème médiatique » en érodant considérablement la confiance des lecteurs dans la qualité et l'intégrité de l'information.

D'après de nombreuses études, l'IA peut être utilisée pour filtrer et sélectionner les articles les plus susceptibles d'attirer les lecteurs et de susciter leur intérêt, créant ainsi un déséquilibre dans l'information qui n'existerait pas si les articles étaient présentés de manière objective par des humains. Le public n'est exposé qu'à une version partielle des faits et peut donc être influencé par des informations partiales générées par l'IA. De plus, l'IA peut servir à diffuser de la désinformation et de fausses nouvelles en présentant des informations fabriquées de toutes pièces aux côtés d'informations véridiques.

L'IA peut également être vulnérable aux fausses informations. Les algorithmes d'IA sont conçus pour traiter les données rapidement et avec précision, ce qui rend difficile la distinction entre les vraies et les fausses informations. De plus, l'IA est incapable de comprendre les implications émotionnelles et morales des informations qu'elle traite. À mesure que l'IA progresse, sa vulnérabilité aux fausses informations s'accroît, rendant la distinction entre le vrai et le faux encore plus ardue.

Selon le professeur agrégé Nguyen Ngoc Oanh, directeur de la Faculté des relations internationales de l'Académie de journalisme et de communication, le développement de l'intelligence artificielle (IA) nous impose une vigilance accrue et une approche proactive face au risque que des individus mal intentionnés et des forces hostiles utilisent l'IA pour diffuser des informations nuisibles et mensongères. Du point de vue de la sécurité des médias, cela met en évidence le risque potentiel de désinformation, de distorsion des données et de fausses nouvelles. L'application de l'intelligence artificielle au domaine de l'information peut permettre de falsifier des voix et des images, de créer de faux récits et de faux témoignages d'apparence authentique afin de tromper le public, notamment sur les réseaux sociaux.

« Ceux qui ont de mauvaises intentions exploitent le rôle et le prestige de la presse pour falsifier l’information, trompant ainsi le public en lui faisant croire qu’il s’agit d’informations fournies et reflétées par la presse. Le développement des fausses nouvelles va devenir plus sophistiqué et complexe ; par conséquent, outre le renforcement de la vigilance, les méthodes d’identification, de réponse et de gestion des fausses nouvelles doivent privilégier l’investissement dans les technologies intelligentes et une approche systématique. Les capacités de gestion des médias et des agences de presse doivent être améliorées pour s’adapter à ces changements », a commenté le professeur agrégé Nguyen Ngoc Oanh.

Le secteur de l'information doit trouver des moyens de protéger son contenu créatif.

Depuis le lancement de ChatGPT en novembre 2022, de nouvelles applications basées sur l'IA générative sont déployées presque quotidiennement. De ce fait, Internet regorge de contenus générés par l'IA. Si certains sont absolument fascinants, on trouve aussi une grande quantité de contenus fades et répétitifs. Cela facilite la diffusion de fausses informations et impose une pression accrue sur le secteur des médias pour instaurer et restaurer la confiance des lecteurs.

Le journaliste Nguyen Hoang Nhat, rédacteur en chef adjoint du quotidien Vietnamplus, a évoqué les leçons du passé, lorsque de nombreux experts estimaient que l'une des premières grandes erreurs de la presse avait été de réagir trop lentement face à l'importance et à l'influence grandissante des réseaux sociaux. « Pendant longtemps, nous avons diffusé l'intégralité de notre contenu sur les réseaux sociaux, au détriment de nos fondamentaux, ce qui n'était ni notre point fort ni ce dont nos lecteurs avaient besoin. En bref, nous avons accordé trop de pouvoir aux réseaux sociaux, qui ont fini par nous engloutir », a déclaré le journaliste Nguyen Hoang Nhat.

Le défi de l'intégrité de l'information face à l'accélération sans précédent du développement et de l'application de l'IA — Pendant la participation de l'équipe féminine vietnamienne à la Coupe du monde, les réseaux sociaux ont été inondés de sources diffusant des informations déformées et fabriquées de toutes pièces. (Photo : VTC)

Face à la menace actuelle que représente l'IA, le journaliste Nguyen Hoang Nhat a déclaré que, si l'IA permet généralement aux rédactions de travailler plus vite et de réduire leurs coûts, elle risque aussi de rendre les rédacteurs et les journalistes plus indulgents et de contribuer à une diffusion plus rapide de fausses informations. « Par exemple, lors de la récente Coupe du monde féminine de football, de faux contenus concernant l'équipe féminine vietnamienne sont devenus extrêmement viraux grâce à des mèmes créés par des outils basés sur l'IA, poussant la psychologie d'une partie du public à des extrêmes », a-t-il expliqué.

À l'étranger, News Guard a révélé une statistique alarmante : 347 sites d'information, d'apparence légitime, regorgent de contenu généré par l'IA et propagent de la désinformation. Une étude récente du Massachusetts Institute of Technology (MIT) a démontré que les gens sont plus enclins à croire la désinformation générée par l'IA que les fausses informations créées par des humains.

Selon le journaliste Nguyen Hoang Nhat, cette réalité place le secteur de l'information dans une position où il doit trouver des moyens de protéger son contenu créatif et sa propriété intellectuelle, mais ne peut pas tourner le dos aux commodités qu'apporte l'IA.

Évaluant les défis liés à l'honnêteté journalistique, le professeur agrégé Nguyen Ngoc Oanh a déclaré que, malgré les nombreuses fonctionnalités remarquables de Chat GPT, il ne s'agit en fin de compte que d'un outil que les journalistes doivent apprendre à maîtriser et à utiliser au service de leur travail pour produire des articles et des communiqués de presse conformes aux principes de la profession. La vérification des sources d'information est primordiale pour les journalistes qui ne veulent pas contribuer à la diffusion de fausses informations.

De nombreux séminaires et discussions sur l'intelligence artificielle ont permis de conclure que le risque d'utiliser de fausses données et de fausses informations dans les travaux journalistiques est très élevé si la gestion de contenu au sein des rédactions ne parvient pas à suivre le rythme de l'évolution des technologies numériques . Dans un contexte où le cadre juridique du journalisme numérique au Vietnam n'est pas encore adapté à la réalité, les difficultés juridiques, les menaces à la sécurité des médias, les affaires de violation du droit d'auteur et les controverses relatives à l'éthique journalistique et à la responsabilité sociale de la presse face au journalisme automatisé constituent aujourd'hui des défis majeurs.

Phan Hoa Giang

Source