Le défi de l'intégrité de l'information à mesure que le développement et l'adoption de l'IA s'accélèrent

Risques potentiels liés à la diffusion de fausses informations

La science et la technologie n’influencent pas seulement la manière dont la presse et les médias transmettent leurs messages, influencent et influencent la manière et l’efficacité de l’accès du public, mais ont également un impact profond sur la qualité de l’information.

En réalité, le journalisme a su s'adapter rapidement aux innovations technologiques, surtout ces dernières années. L'intelligence artificielle (IA) s'est progressivement imposée dans les médias de masse et les rédactions des agences de presse. Son application a profité aux journalistes comme aux médias. Elle libère les journalistes de tâches quotidiennes fastidieuses, leur permettant de gagner du temps et de se concentrer sur un travail plus créatif et plus qualifié.

Si l'IA présente de nombreux avantages, elle suscite également des inquiétudes. L'un des risques les plus importants réside dans la possibilité que le contenu généré par l'IA diffuse de fausses informations.

Le défi de l'intégrité de l'information alors que le rythme de développement et d'application de l'IA s'accélère 1 — Les 10 plus grandes agences de presse mondiales appellent à des négociations collectives et transparentes entre les médias et les développeurs d'IA pour contrôler quels documents protégés par le droit d'auteur peuvent être utilisés dans la formation des outils d'IA, ainsi que pour éliminer les biais dans les algorithmes d'IA.

La semaine dernière, dix des plus grandes agences de presse mondiales ont signé une lettre appelant à la transparence et à des lois claires sur le droit d'auteur concernant l'IA. Ces agences ont affirmé que l'IA pouvait « menacer la pérennité de l'écosystème médiatique » en érodant considérablement la confiance des lecteurs dans la qualité et l'intégrité de l'information.

Selon de nombreuses études, l'IA permet de filtrer et de sélectionner les articles les plus susceptibles d'attirer et d'intéresser les lecteurs, créant ainsi un déséquilibre dans l'information qui n'existerait pas si les articles étaient présentés de manière objective, produite par des humains. Le public n'est exposé qu'à un seul aspect de l'histoire et peut donc être influencé par des informations partiales générées par l'IA. De plus, l'IA peut servir à diffuser de la désinformation et des fausses nouvelles en présentant des histoires inventées aux côtés d'histoires réelles.

L'IA peut également être vulnérable aux fausses nouvelles. Les algorithmes d'IA sont conçus pour traiter les données rapidement et avec précision, ce qui rend difficile la distinction entre les vraies et les fausses nouvelles. De plus, l'IA est incapable de comprendre les implications émotionnelles et morales des informations qu'elle traite. À mesure que l'IA progresse, sa vulnérabilité aux fausses nouvelles va s'accroître, rendant encore plus difficile la distinction entre le vrai et le faux.

Selon le professeur associé Dr Nguyen Ngoc Oanh, directeur de la Faculté des relations internationales de l'Académie de journalisme et de communication, l'essor de l'IA exige une vigilance particulière et une proactivité accrue face au risque que des individus malveillants et des forces hostiles l'utilisent pour diffuser des informations préjudiciables et fausses. Du point de vue de la sécurité des médias, cela met en évidence le risque potentiel de désinformation, de distorsion et de fausses nouvelles. Une fois l'intelligence artificielle appliquée au secteur de l'information, elle peut permettre de falsifier des voix et des images, de créer de fausses histoires et des déclarations semblant vraies pour tromper le public, notamment sur les réseaux sociaux.

« Ceux qui ont de mauvaises intentions profitent du rôle et du prestige de la presse pour falsifier l'information, faisant croire au public qu'il s'agit d'informations fournies et reflétées par la presse. Le développement des fausses nouvelles deviendra plus sophistiqué et complexe. Par conséquent, parallèlement à la vigilance accrue, les méthodes d'identification, de réponse et de traitement des fausses nouvelles doivent privilégier l'investissement dans les technologies intelligentes et leur traitement systématique. Les capacités de gestion des médias sociaux et des agences de presse doivent être améliorées pour s'adapter aux changements », a commenté le Dr Nguyen Ngoc Oanh, professeur associé.

L’industrie de l’information doit trouver des moyens de protéger son contenu créatif.

Depuis le lancement de ChatGPT en novembre 2022, de nouvelles applications basées sur l'IA générative sont déployées presque quotidiennement. Internet s'est ainsi rempli de contenu généré par l'IA. Si certains sont époustouflants, on trouve aussi beaucoup de contenu fade et répétitif. Cela facilite la diffusion de fausses informations et impose aux médias une plus grande responsabilité pour instaurer et restaurer la confiance des lecteurs.

Le journaliste Nguyen Hoang Nhat, rédacteur en chef adjoint du journal Vietnamplus, a rappelé les leçons du passé. De nombreux experts estimaient que l'une des premières erreurs majeures de la presse avait été de réagir trop lentement à l'importance et à l'invasion des réseaux sociaux. « Nous avons longtemps diffusé tout notre contenu sur les réseaux sociaux, adaptant nos activités principales à leur usage, ce qui n'est parfois ni notre point fort ni ce dont les lecteurs ont besoin. En bref, nous avons donné trop de pouvoir aux réseaux sociaux, ce qui a entraîné leur effondrement », a déclaré le journaliste Nguyen Hoang Nhat.

Le défi de l'intégrité de l'information alors que la vitesse de développement et d'application de l'IA augmente à un rythme sans précédent — À l'époque où l'équipe féminine vietnamienne participait à la Coupe du monde, les réseaux sociaux étaient remplis de sources diffusant des informations déformées et fabriquées. (Photo : VTC)

Concernant la menace actuelle posée par l'IA, le journaliste Nguyen Hoang Nhat a déclaré que, de manière générale, l'IA permet aux rédactions de travailler plus rapidement et de réduire les coûts, mais qu'elle rendra les rédacteurs et les journalistes plus indulgents et contribuera à accélérer la diffusion de fausses informations. « Par exemple, lors de la récente Coupe du monde féminine, de faux contenus concernant l'équipe féminine vietnamienne ont connu une terrible “viralité” grâce à des mèmes créés à partir d'outils basés sur l'IA, poussant à l'extrême la psychologie générale d'une partie du public », a cité le journaliste Nguyen Hoang Nhat.

À l'étranger, News Guard a rapporté une statistique alarmante : 347 sites d'information paraissent légitimes, mais regorgent de contenu généré par l'IA et promeuvent la désinformation. Une étude récente du Massachusetts Institute of Technology (MIT) a révélé que les gens sont plus susceptibles de croire à la désinformation générée par l'IA qu'aux fausses informations générées par des humains.

Selon le journaliste Nguyen Hoang Nhat, cette réalité place l’industrie de l’information dans une position où elle doit trouver des moyens de protéger son contenu créatif et sa propriété intellectuelle, mais ne peut pas tourner le dos aux commodités apportées par l’IA.

Évaluant les défis liés à l'honnêteté des informations, le Dr Nguyen Ngoc Oanh, professeur associé, a déclaré que, malgré ses nombreuses fonctionnalités exceptionnelles, Chat GPT n'est qu'un outil que les journalistes doivent apprendre à maîtriser et utiliser pour leurs activités professionnelles, afin de créer des articles et des produits de presse conformes aux principes de la profession. La vérification des sources d'information des reporters et des journalistes est essentielle pour éviter de contribuer à la diffusion d'informations inexactes.

De nombreux séminaires et discussions sur l'intelligence artificielle ont montré que le risque d'utilisation de fausses données et de fausses informations dans les travaux journalistiques est très élevé si la gestion des contenus au sein des rédactions ne suit pas le rythme du développement des technologies numériques . Dans un contexte où le cadre juridique du journalisme numérique au Vietnam n'est pas encore adapté à la réalité, les problèmes juridiques, les menaces pour la sécurité des médias, les affaires de violation du droit d'auteur et les controverses sur l'éthique journalistique et la responsabilité sociale de la presse dans l'application du journalisme automatisé constituent aujourd'hui des défis majeurs.

Comment (0)