Besoin urgent de contrôler le contenu de l'IA

Des critères doivent être établis pour limiter le contenu que les utilisateurs sont autorisés à créer avec l'IA, imposant un étiquetage clair.

Ces dernières années, l'intelligence artificielle (IA) s'est développée et perfectionnée à une vitesse fulgurante, devenant un outil d'aide précieux dans de nombreux domaines. Veo3, une technologie de création vidéo basée sur l'IA et récemment développée par Google DeepMind, est capable de produire des séquences d'un réalisme saisissant. Outre ses avantages pour les utilisateurs, cet outil présente également le risque d'être exploité à des fins frauduleuses.

Difficile de distinguer le vrai du faux

D'après le monde de la technologie, Veo3 a fait sensation à l'échelle mondiale grâce à sa fonctionnalité de création vidéo par IA, offrant un niveau de réalisme inégalé. Contrairement à Sora d'OpenAI, qui excelle uniquement en matière d'image mais présente des limitations au niveau du son, Veo3 synchronise parfaitement images, sons ambiants et dialogues. Bruits de pas, souffle du vent, voix humaines et effets sonores environnants : tout se combine harmonieusement pour atteindre un niveau de réalisme tel qu'il est difficile pour les utilisateurs de distinguer les vidéos réelles des vidéos générées par l'IA.

Au Vietnam, Veo3 a rapidement créé un véritable phénomène sur les réseaux sociaux comme TikTok, Facebook et YouTube Shorts. Une série de vidéos accompagnées du hashtag #veo3 ont été partagées à une vitesse fulgurante, cumulant des millions de vues et des centaines de milliers d'interactions. De nombreux clips créés par l'IA ont surpris la communauté en ligne par leur incroyable réalisme. Par exemple, une vidéo de 8 secondes avec un simple dialogue a atteint 5 millions de vues et plus de 308 000 mentions « J'aime ». Une autre vidéo, montrant une femme âgée en train de faire frire des œufs, entièrement réalisée par l'IA, a également dépassé les 2,6 millions de vues et les 104 000 mentions « J'aime ».

M. Tran Vinh Khang, employé de bureau du 1er arrondissement d'Hô-Chi-Minh-Ville, a confié avoir eu du mal à distinguer le vrai du faux tant le réalisme était poussé. « J'ai vu une vidéo d'un vendeur de poisson discutant avec des clients au marché et j'ai cru que c'était authentique, tant l'image était nette. Sa façon de faire des gestes, de hausser les sourcils, la lumière du soleil sur son visage… tout était si naturel qu'il était incroyable que cela ait été créé par une intelligence artificielle », a-t-il déclaré.

Dans le film créé par Veo3, les utilisateurs ont du mal à distinguer les images réelles des images truquées.

Bien qu'elle se soit dite impressionnée, Mme Nguyen Mai Anh (résidant à Hô Chi Minh-Ville) a exprimé des inquiétudes quant à la sécurité des informations. « La vidéo créée par Veo3 est tellement réaliste qu'elle me met mal à l'aise. Si des personnes mal intentionnées utilisent cette technologie pour créer des vidéos diffamatoires, calomnieuses ou pour falsifier des preuves, les conséquences seront très graves », a-t-elle déclaré.

De nombreux utilisateurs vietnamiens s'intéressent particulièrement à l'accès et à l'utilisation de Veo3. Cependant, Veo3 n'est officiellement disponible sur le marché américain que via l'abonnement Google AI Ultra, proposé à 249,99 USD par mois. Face à cette limitation, la communauté en ligne vietnamienne a trouvé une solution pour contourner cet obstacle et accéder au service. De nombreux utilisateurs partagent des astuces pour utiliser un VPN afin de modifier leur adresse IP et se connecter aux États-Unis, puis créer un compte Google dans la région concernée pour activer et utiliser Veo3 comme un utilisateur local. Selon des experts en sécurité, cette faille de sécurité pourrait être exploitée par des personnes mal intentionnées.

Un cadre juridique est nécessaire pour l'IA.

M. Le Hong Duc, fondateur de OneAds Digital Company Limited, a déclaré que les produits générés par l'IA, tels que les vidéos, les images ou les voix, atteignent un niveau de réalisme stupéfiant et peuvent même être directement mis en production et commercialisés. Cette explosion technologique offre des avantages indéniables en termes de coûts et de temps, mais peut également être exploitée pour diffuser de fausses informations ou semer la confusion au sein du public. Face à la complexité croissante des modèles d'IA, le contrôle des contenus devient une nécessité, d'autant plus que le rythme d'évolution technologique dépasse largement celui de la législation.

Par conséquent, M. Duc a proposé d'élaborer d'urgence une loi spécifique à l'IA, définissant clairement les responsabilités des créateurs et des diffuseurs de contenus générés par l'IA. La diffusion de contenus faux et nuisibles doit être sanctionnée et traitée avec la plus grande fermeté. Parallèlement, les autorités doivent établir des critères limitant les contenus que les utilisateurs sont autorisés à créer avec l'IA et exiger un étiquetage clair. En cas de non-respect de ces critères, les utilisateurs devront assumer leur responsabilité juridique et indemniser les dommages causés. « L'élaboration d'un cadre juridique spécifique à l'IA est absolument urgente pour contrôler cette technologie en plein essor, contribuant ainsi au maintien d'un environnement numérique sain et prévenant les conséquences telles que la fraude, les manquements à l'éthique ou les actes d'insulte », a souligné M. Duc.

Outre les préoccupations juridiques, un expert en sécurité informatique a indiqué que le développement fulgurant de Veo3 suscite également des inquiétudes chez les créateurs de contenu, notamment dans des domaines tels que le cinéma, la télévision et l'animation, qui risquent d'être progressivement remplacés par l'intelligence artificielle. Ceci représente un défi majeur pour la protection des carrières et des droits d'auteur dans le secteur créatif. « Il est impératif d'instaurer rapidement une réglementation sur les droits de propriété intellectuelle pour les contenus générés par l'IA, car celle-ci est désormais capable de produire des œuvres d'un réalisme saisissant. Faute de quoi, les créateurs risquent de perdre leur emploi face à l'afflux d'œuvres virtuelles sur le marché », a déclaré l'expert.

Attention aux services usurpant l'identité

Depuis l'essor fulgurant de Veo3 sur les réseaux sociaux, de nombreux comptes se présentant comme des « experts en IA » ont commencé à diffuser des vidéos de démonstration, des tutoriels d'accès à Veo3 ou à vendre des comptes et des services d'assistance à des prix allant de 200 000 à 300 000 VND. Si certains utilisateurs ont affirmé avoir réussi à y accéder et à l'essayer, ce n'est pas le cas pour tous. M. Le Hong Duc a mis en garde les utilisateurs contre les services contrefaits ou non officiels et leur a conseillé d'attendre le déploiement officiel de Veo3 par Google sur le marché vietnamien afin d'éviter les fraudes financières, le vol de données et le piratage de leurs comptes Google.

Source : https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm