Transparence des produits d'intelligence artificielle

Le stand de FPT consacré aux applications de l'IA dans divers domaines.

Le stand d'exposition deFPT sur les applications de l'IA dans divers domaines.

Aujourd'hui, de la création de contenus visuels, audio et textuels à l'aide à la décision automatisée, de nombreux produits d'IA ne sont pas étiquetés et sont partagés comme du contenu classique. Par conséquent, les utilisateurs ne savent pas s'ils interagissent avec du contenu généré par des humains ou par une IA et peuvent être victimes de désinformation ou de manipulation.

Par exemple, un salon de beauté publie une publicité générée par IA avec la photo d'un mannequin, induisant les clients en erreur et leur faisant croire à une prestation authentique. Or, une fois sur place, ils constatent que la qualité est loin d'être à la hauteur de la publicité. Plus inquiétant encore, l'IA peut créer de fausses photos de personnalités, des vidéos simulant des déclarations politiques, ou encore des articles rédigés par IA avec les noms de personnes réelles, portant ainsi atteinte à l'honneur personnel et à la réputation d'organismes et d'organisations.

De plus, l'absence de système d'étiquetage réduit la confiance des utilisateurs envers les plateformes numériques et les produits d'IA. Un environnement numérique opaque quant à l'origine des contenus suscite la méfiance et la distance chez les utilisateurs. Par ailleurs, la plupart des utilisateurs vietnamiens n'ont pas l'habitude d'identifier et de vérifier l'origine des contenus, et les outils techniques permettant de détecter les produits d'IA sont limités.

Définir clairement les obligations de transparence et d'étiquetage constitue non seulement une exigence éthique et technologique, mais aussi un fondement juridique pour protéger les utilisateurs et les développeurs de produits d'IA. Afin de répondre à cette exigence, le ministère des Sciences et des Technologies élabore actuellement une loi sur l'intelligence artificielle, dont l'article 12 stipule « Transparence, étiquetage et responsabilité ».

L’étiquetage consiste donc à appliquer des mesures techniques pour apposer une mention claire, facilement reconnaissable et lisible par machine indiquant qu’un contenu (texte, image, audio, vidéo) a été créé ou modifié de manière significative par des systèmes d’IA. Cette mention doit être apposée lorsque le contenu est largement diffusé.

Ce règlement établit des obligations d'étiquetage obligatoires pour les produits créés ou modifiés par l'IA, dans le but de rendre l'espace numérique transparent, de protéger les consommateurs et d'exiger que les fournisseurs et les déployeurs soient conjointement responsables si le défaut d'étiquetage entraîne une confusion ou un dommage.

Pour les contenus simulant des personnes, des objets, des lieux ou des événements réels, le projet de loi stipule que les fournisseurs doivent mettre en œuvre des mesures permettant d'identifier clairement que le contenu est créé par une IA et de garantir la possibilité d'authentifier et de retracer son origine. Cette mesure est considérée comme une avancée majeure dans la gestion des technologies d'IA, en phase avec les tendances internationales, l'Union européenne (UE), les États-Unis, le Japon et la Corée du Sud ayant déjà adopté des réglementations similaires.

Malgré un consensus sur la nécessité d'une telle mesure, de nombreux experts et entreprises estiment que la réglementation relative à l'étiquetage, telle que définie dans le projet de loi, doit être plus précise. Maître Hoang Le Quan, du cabinet d'avocats Lexcomm Vietnam LLC, considère qu'il est indispensable de clarifier si les fournisseurs d'IA peuvent choisir eux-mêmes la forme de l'étiquetage ou s'ils doivent se conformer aux directives gouvernementales.

S’il existe des lignes directrices, elles doivent être claires et garantir leur conformité aux normes internationales, en évitant que les exigences du Vietnam ne soient totalement différentes ou ne créent de nouvelles obligations, notamment pour les fournisseurs multinationaux, ce qui nuirait à la compétitivité du Vietnam dans l’application et le développement de l’IA par rapport à d’autres marchés tels que l’Union européenne (UE), la Corée du Sud ou les États-Unis.

Certains avis soulignent la nécessité de définir clairement le champ d'application et le niveau d'intervention de l'IA : faut-il étiqueter tout contenu intégrant des éléments d'IA, ou seulement les produits entièrement créés par l'IA ou ayant bénéficié d'une intervention significative de sa part ? M. Tran Van Tri, directeur de la société par actions Vietnam Law Media (LuatVietnam.vn), a déclaré que lorsqu'un contenu ne comporte qu'une petite partie faisant appel à l'IA, est-il nécessaire de l'étiqueter ? Il convient de préciser clairement s'il s'agit d'une création assistée par l'IA ou d'une création entièrement réalisée par l'IA.

Dans le secteur du divertissement, certaines entreprises souhaitent un mécanisme souple permettant d'exempter les produits d'IA des obligations d'étiquetage strictes et de privilégier les avertissements ou une communication transparente en fonction du niveau d'utilisation. L'IA est largement utilisée pour améliorer le son, l'image et les effets spéciaux. Si l'étiquetage était systématiquement requis, les coûts et les procédures augmenteraient, freinant ainsi la créativité.

Le ministre des Sciences et des Technologies a déclaré que le projet de loi sur l'intelligence artificielle vise à trouver un juste équilibre entre la réglementation et l'encouragement du développement, tout en garantissant la transparence, la faisabilité et le respect des normes internationales. L'objectif de l'étiquetage est de clarifier la frontière entre les contenus créés par l'humain et ceux générés par la machine, en évitant un laxisme ou un durcissement excessif de la réglementation, afin que cette technologie puisse se développer dans un cadre transparent et responsable.

HA LINH

Source : https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html