Plus les outils d'IA sont accessibles, plus ils risquent d'être défectueux.

Pour mieux comprendre ce problème, des journalistes du Journaliste et d'Opinion Publique se sont entretenus avec le journaliste Nguyen Cao Cuong, directeur adjoint du Centre de production de programmes de VTVcab et expert en communication et réseaux sociaux.

Les produits d'IA devraient être étiquetés lors de leur utilisation.

Monsieur, comment évaluez-vous le développement actuel de la technologie de l'IA, notamment avec l'apparition récente de l'application Sora (une application sœur de ChatGPT chez OpenAI) capable de créer des vidéos à partir de texte ?

L'intelligence artificielle (IA) appliquée au secteur des médias a connu des progrès considérables. Auparavant, elle était principalement utilisée pour produire des images statiques et simples. Désormais, elle produit également des vidéos. L'application Sora d'OpenAI, récemment lancée, permet de convertir du texte en courtes vidéos d'une durée maximale d'une minute. Sora crée des vidéos aux images saisissantes, aux mouvements fluides et aux arrière-plans soignés, ce qui leur confère un réalisme saisissant. Ceci ouvre de formidables perspectives aux entreprises technologiques, aux sociétés spécialisées dans les médias, ainsi qu'aux agences de presse et de communication, qui peuvent désormais utiliser des images animées sous forme de clips pour illustrer leurs produits.

Le journaliste Nguyen Cao Cuong, directeur adjoint du centre de production de programmes de VTVcab, lors d'une session de formation aux médias.

Cependant, l'utilisation des produits d'IA reste prudente pour tous, et de nombreux pays envisagent même d'établir une réglementation pour son usage dans le journalisme, afin de définir un cadre légal clair. Bien qu'il s'agisse d'un outil précieux pour les professionnels de la presse, son application, notamment en journalisme, exige une réflexion approfondie. Le journalisme repose par essence sur le respect de la vérité objective. Or, les produits d'intelligence artificielle que nous utilisons ne sont que des créations de machines, des synthèses, et leurs résultats ne sont donc qu'à titre indicatif.

Les opportunités s'accompagnent toujours de risques. Plus une application d'IA est avancée, plus les risques qu'elle présente sont importants. Qu'en pensez-vous ?

Avec le développement des technologies, le risque existe que l'IA crée de nombreux objets contrefaits ressemblant à de vraies personnes. Sur Internet, des images humaines circulent, donnant l'impression d'être de vraies personnes. Cela engendre une insécurité informationnelle déjà connue par le passé, notamment avec les deepfakes qui falsifient images et voix pour commettre des fraudes en ligne, un phénomène malheureusement assez courant. Les dangers des deepfakes et de l'IA suscitent des inquiétudes : progressivement, le public se méfiera des images créées par l'IA.

Actuellement, ni les agences de presse ni les organismes de gestion étatiques ne disposent de réglementations relatives à l'intelligence artificielle. Par conséquent, lorsqu'elles utilisent cette technologie, les rédactions doivent signaler clairement les produits issus de l'IA. Il s'agit également d'avertir le public qu'il s'agit de produits de l'intelligence artificielle, et non d'œuvres humaines. Parallèlement, il est important de préciser qu'il s'agit d'images illustratives et non de la réalité, afin d'éviter toute confusion.

Le journaliste Nguyen Cao Cuong encadre les étudiants dans la pratique de la production médiatique.

En journalisme, l'utilisation de l'IA exige une extrême prudence et beaucoup de compétences.

+ Dans un avenir proche, comment les agences de presse pourront-elles tirer parti des avantages offerts par l'IA, monsieur ?

Les agences de presse utilisent des illustrations générées par IA (graphiques, publicités, photos d'introduction ou autres) ; l'exigence de précision absolue n'étant pas trop élevée, leur utilisation est acceptable. En revanche, pour un article d'investigation, un reportage ou un simple article d'actualité, le recours à des images générées par IA est formellement interdit, car le public risque de confondre images réelles et images de synthèse.

Par conséquent, dans le domaine du journalisme, l'utilisation de l'IA exige une grande prudence et une expertise certaine. Si le produit émane d'une entreprise de médias, d'une unité spécialisée dans la production de contenus publicitaires destinés à promouvoir des produits, à vendre des produits ou à guider les consommateurs, alors l'application de l'IA est tout à fait justifiée. Dans ce cas, l'objectif est uniquement de créer rapidement des visuels attrayants et créatifs à des fins d'illustration. Selon la finalité du travail médiatique, cette pratique sera qualifiée ou non. Mais à mon avis, il s'agit d'un phénomène nouveau qui mérite d'être encadré.

Par exemple, un outil capable de générer une image d'un événement survenu il y a des dizaines, voire des centaines d'années, peut être assisté par l'IA. Cependant, le résultat dépend largement des connaissances du journaliste : celui-ci doit maîtriser l'événement de l'année en question afin de fournir à l'IA les informations nécessaires, ainsi que le texte et les commandes qui lui sont transmis. De même, si un journaliste utilise l'IA pour recréer une scène de guerre avec des personnages de la dynastie Tran, par exemple, mais qu'il ne possède aucune connaissance de base sur l'apparence des soldats de cette époque, leurs costumes et leurs armes, il risque de confondre l'image avec celle d'une autre période.

Sora d'OpenAI génère des vidéos d'une minute maximum, incluant des scènes complexes, des mouvements de caméra et de nombreux personnages aux émotions fortes. Capture d'écran d'un extrait généré par l'application Sora.

+ Si un article journalistique est produit par une IA, ou largement généré par une IA, comment le jugeriez-vous juridiquement s'il devait recevoir le prix du journalisme de haute qualité ou être présenté à des prix de journalisme ?

Actuellement, ni le ministère de l'Information et des Communications ni l' Association des journalistes vietnamiens ne contiennent de réglementation spécifique concernant l'utilisation de l'IA dans le travail journalistique. Toutefois, les agences de presse qui utilisent l'IA, même partiellement, doivent l'indiquer clairement. Que le travail soit soumis à un concours ou non, dès lors qu'il est diffusé au public, les journalistes doivent faire preuve d'une grande vigilance, notamment ceux qui possèdent des connaissances approfondies et complètes afin de bien distinguer les informations saisies. Il est essentiel de limiter les risques de confusion lors de la génération d'un produit par l'IA. Après réception d'un tel produit, une vérification s'impose. Les journalistes doivent alors adopter une approche critique, à l'instar d'un rédacteur en chef, afin de s'assurer de sa conformité aux normes. Aux débuts de l'IA, lorsque les données d'entrée sont encore rares et insuffisantes, le risque de confusion est très élevé ; il est donc impératif d'y prêter une attention particulière.

OpenAI vient de dévoiler Sora, une application d'IA capable de générer des vidéos réalistes à partir de commandes textuelles.

+ Selon vous, les agences de presse devraient-elles renforcer la formation et le perfectionnement des journalistes et reporters afin qu'ils puissent tirer parti de l'IA, notamment des nouvelles fonctionnalités lancées ?

Bien sûr. Avec la production de contenu vidéo par IA, de vidéos verticales, de contenus audio ou textuels, de photos… nous, journalistes, cherchons constamment à capter l’attention des lecteurs et des audiences, et devons donc nous tenir informés des dernières nouveautés. Le plus important est de savoir utiliser les outils, et d’avoir un processus de révision, de correction et de vérification rigoureux. Les journalistes spécialisés possèdent-ils une expertise suffisante ? En résumé, chaque reporter, journaliste et rédacteur doit être vigilant : plus l’accès aux outils d’IA est facile, plus le risque d’erreurs est élevé.

Dans un travail journalistique ou télévisuel, on peut utiliser autant d'images que souhaité, pourvu que leur contenu et leurs images soient cohérents, authentiques et fidèles au contexte de l'événement. C'est essentiel. Si une production journalistique issue de l'IA est bien maîtrisée, authentique et pertinente, il n'y aura aucun problème. Quant aux photos, peintures et vidéos reconstituées historiquement, nous pouvons les utiliser, à condition de les légender afin que le public connaisse le contexte, la période, le moment et le contenu de ces reconstitutions réalisées par l'IA.

+ Compte tenu des problèmes juridiques et de sécurité persistants, les agences de presse devraient-elles utiliser des produits d'IA pour créer des communiqués de presse destinés uniquement à être publiés sur les plateformes de réseaux sociaux ?

Si la création d'un produit d'IA destiné uniquement à être diffusé sur les réseaux sociaux demande trop d'efforts, il nous faut revoir notre stratégie. Dans ce cas, ces produits devraient être disponibles sur le site web de l'agence de presse. Les plateformes comme Facebook, TikTok et YouTube restent des plateformes tierces ; nous pouvons certes générer des revenus grâce à elles, mais notre stratégie à long terme doit impérativement privilégier le développement de notre propre chaîne. Par conséquent, les contenus les plus pertinents et nécessitant le plus de travail devraient être diffusés sur la chaîne officielle du propriétaire.

+ Merci beaucoup !

Le Tam (interprété)

Source: https://www.congluan.vn/cong-cu-ai-cang-tiep-can-de-dang-thi-kha-nang-sai-sot-cang-nhieu-post286155.html