Ces dernières années, l'intelligence artificielle (IA) a connu un développement et une amélioration fulgurants, devenant un outil puissant au service de nombreux domaines. Veo3, une technologie de création vidéo basée sur l'IA et récemment développée par Google DeepMind, est capable de produire des images d'un réalisme saisissant. Cependant, outre ses avantages pour l'utilisateur, cet outil présente également un risque d'exploitation par des personnes malveillantes à des fins frauduleuses.
Il est difficile de faire la différence entre le vrai et le faux.
D'après les experts, Veo3 est devenu un phénomène mondial grâce à ses capacités de création vidéo par IA, offrant un niveau de réalisme bien supérieur aux outils précédents. Contrairement à Sora d'OpenAI, excellent pour le visuel mais limité pour l'audio, Veo3 synchronise parfaitement images, sons ambiants et dialogues. Bruits de pas, vent, paroles et effets sonores environnants : tout se fond harmonieusement, pour un réalisme saisissant qui rend difficile la distinction entre vidéos réelles et créations IA.
Au Vietnam, Veo3 est rapidement devenu un phénomène sur les réseaux sociaux comme TikTok, Facebook et YouTube Shorts. De nombreuses vidéos, accompagnées du hashtag #veo3, ont été partagées à une vitesse fulgurante, cumulant des millions de vues et des centaines de milliers d'interactions. Plusieurs clips générés par l'IA ont stupéfié la communauté en ligne par leur réalisme saisissant. Par exemple, une vidéo de 8 secondes, contenant une simple réplique, a totalisé 5 millions de vues et plus de 308 000 mentions « J'aime ». Une autre vidéo, entièrement créée par l'IA, montrant une femme âgée faisant frire des œufs, a également dépassé les 2,6 millions de vues et les 104 000 mentions « J'aime ».
M. Tran Vinh Khang, employé de bureau du district 1 à Hô Chi Minh-Ville, a confié qu'il avait du mal à distinguer les vidéos authentiques des fausses tant leur réalisme était frappant. « J'ai vu une vidéo d'un vendeur de poisson discutant avec un client au marché et j'ai cru qu'elle était réelle, tant l'image était nette. Sa façon de saluer, de hausser les sourcils, la lumière du soleil sur son visage… tout était si naturel que je n'arrivais pas à croire que c'était une création d'intelligence artificielle », a déclaré M. Khang.
Les images de la vidéo créée par Veo3 sont difficiles à distinguer pour les utilisateurs, qu'il s'agisse d'images réelles ou truquées.
Tout en reconnaissant son admiration, Mme Nguyen Mai Anh (résidente de Hô Chi Minh-Ville) a exprimé des inquiétudes quant à la sécurité des informations. « Les vidéos créées par Veo3 sont si réalistes que cela me met mal à l'aise. Si des personnes mal intentionnées utilisent cette technologie pour créer des vidéos diffamatoires, calomnier ou fabriquer de fausses preuves, les conséquences seront très graves », a déclaré Mme Anh.
De nombreux utilisateurs vietnamiens s'intéressent particulièrement à l'accès et à l'utilisation de Veo3. Cependant, Veo3 n'a été officiellement lancé par Google qu'aux États-Unis, via l'abonnement Google AI Ultra à 249,99 $ par mois. Face à cette limitation, la communauté en ligne vietnamienne a cherché des solutions pour contourner les restrictions et pouvoir utiliser le service. Nombreux sont ceux qui partagent des astuces pour utiliser un VPN afin de modifier leur adresse IP et se connecter aux États-Unis, puis créer un compte Google dans une région autorisée pour activer et utiliser Veo3 en tant qu'utilisateur local. Selon des experts en sécurité, il s'agit également d'une vulnérabilité que des personnes malveillantes pourraient exploiter à des fins malhonnêtes.
Un cadre juridique est nécessaire pour l'IA.
M. Le Hong Duc, fondateur de OneAds Digital Co., Ltd., a déclaré que les produits générés par l'IA, tels que les vidéos, les images et les voix, atteignent un niveau de réalisme stupéfiant et peuvent même être directement mis en production et commercialisés. Cet essor présente des avantages indéniables en termes de coûts et de temps, mais il peut être exploité pour diffuser de la désinformation ou semer la panique. Face à la complexité croissante des modèles d'IA, le contrôle des contenus devient crucial, d'autant plus que la technologie a évolué bien plus vite que la législation.
Par conséquent, M. Duc a souligné l'urgence d'élaborer une loi spécifique à l'IA, définissant clairement les responsabilités des créateurs et des diffuseurs de contenus utilisant l'IA. La diffusion de contenus trompeurs, nuisibles ou toxiques doit être sévèrement punie. Parallèlement, les autorités doivent établir des critères limitant les contenus que les utilisateurs sont autorisés à créer à l'aide de l'IA et imposer un étiquetage clair. Le non-respect de ces critères entraînera des poursuites judiciaires et le versement de dommages et intérêts. « L'adoption d'un cadre juridique distinct pour l'IA est absolument essentielle pour maîtriser cette technologie en plein essor, contribuer à préserver un environnement numérique sain et prévenir les conséquences néfastes telles que la fraude, les manquements à l'éthique ou les comportements offensants », a insisté M. Duc.
Outre les préoccupations juridiques, un expert en sécurité informatique a indiqué que le développement rapide de Veo3 inquiète également les créateurs de contenu, notamment dans des domaines comme le cinéma, la télévision et l'animation, qui risquent d'être progressivement remplacés par l'intelligence artificielle. Ceci représente un défi majeur pour la protection des professions et des droits d'auteur dans le secteur créatif. « Il est urgent d'instaurer une réglementation sur les droits de propriété intellectuelle pour les contenus générés par l'IA, car celle-ci est désormais capable de produire des œuvres d'un réalisme saisissant. Faute de quoi, les créateurs risquent de perdre leur emploi face à la vague d'œuvres virtuelles qui déferle sur le marché », a déclaré l'expert.
Méfiez-vous des services frauduleux.
Depuis le lancement de Veo3, de nombreux comptes sur les réseaux sociaux, se présentant comme des « experts en IA », ont commencé à diffuser des vidéos de démonstration, des tutoriels expliquant comment accéder à Veo3, ou à vendre des comptes et des services d'assistance pour 200 000 à 300 000 VND. Si certains utilisateurs ont réussi à y accéder et à l'essayer, ce n'est pas le cas pour tous. M. Le Hong Duc a mis en garde les utilisateurs contre les services frauduleux ou non officiels et leur a conseillé d'attendre le lancement officiel de Veo3 par Google sur le marché vietnamien afin d'éviter les arnaques financières, le vol de données ou l'accès non autorisé à leurs comptes Google.
Source : https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm
Comment (0)