Veux ce que tu veux
Assise dans un café et surfant sur Internet, Mme Loan a été surprise de voir à l'écran un vieil homme entrer dans un « bar à chants », appeler cinq filles aux longues jambes en même temps et danser librement… « Ce vieil homme a un visage semblable au mien. L'image dépasse l'imagination. Si les enfants de la maison voyaient ces images, que diraient-ils… ce serait un problème », a confié Mme Loan.
Les médias sociaux proposent désormais de nombreuses vidéos d’IA avec du contenu vulgaire, du son aux images.
Une autre image : un vieil homme transportant trois jeunes filles en tenues élégantes sur une moto roulant à toute allure dans la rue. Le conducteur criait : « Ne vous approchez pas de mon dos, deux vis me serrent le dos, comment puis-je supporter ça… » Ou l’image d’une fille en bikini marchant au milieu du marché, interviewant un vieil homme avec l’intention de dénigrer les femmes ; l’interrogeant sur son ex-amant avec des réponses vulgaires…
« Actuellement, sur les réseaux sociaux, on trouve des centaines, voire des milliers de vidéos créées par des outils d'IA, mettant en scène des filles légèrement vêtues, des dialogues obscènes sur la physiologie, le sexe… et des vidéos qui brisent les valeurs culturelles, s'adressant aux utilisateurs mobiles grâce à des algorithmes intelligents. Quiconque souhaite réaliser une vidéo, quel qu'il soit, peut le faire », s'inquiétait Thanh Hoai, un employé de banque.
De nos jours, les outils de création vidéo IA, tels que HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video, sont monnaie courante. Chaque outil possède ses propres atouts en termes de fonctionnalités, de qualité d'image, de personnalisation d'avatar, de prise en charge multilingue ou d'intégration de voix off et d'effets spéciaux IA. Les vidéos IA de qualité « réaliste » et générant des images et des sons « excessifs » comme mentionné précédemment, apparaissant de manière dense sur le réseau, sont principalement créées à partir d'IA Google Veo 3. Ce modèle d'IA est capable de créer des vidéos à partir d'invites, intégrant des sons vivants tels que des dialogues entre personnages ou des cris d'animaux, ce qui est considéré comme nettement plus avancé que les autres modèles d'IA, qui ne créent que des vidéos « muettes » ou des vidéos avec une simple musique de fond.
Les vidéos IA, notamment les vidéos insolites et vulgaires, sont rapidement vues et écoutées par les utilisateurs mobiles, car de nombreux utilisateurs peuvent souscrire à des forfaits auprès de fournisseurs d'outils IA, pour quelques dizaines à quelques centaines de dollars par mois. Parallèlement, de nombreux particuliers proposent également des services complets de création vidéo IA, tels que des forfaits de base : vidéos courtes, images moyennes ; des forfaits avancés avec des vidéos de haute qualité et de nombreux effets ; des forfaits professionnels avec des vidéos créatives et des fonctionnalités avancées… les prix varient selon la longueur, la complexité et les fonctionnalités supplémentaires telles que le doublage, les sous-titres multilingues et l'optimisation SEO. « Vous pouvez créer tous les types de vidéos IA que vous souhaitez, même des contenus offensants ou drôles, des images captivantes dans des lieux bondés, des dialogues choquants… nous pouvons tout faire », affirme Trong Hoa, spécialiste du contenu (création de contenu pour les réseaux sociaux).
De nombreuses conséquences imprévisibles
Google indique que tout le contenu généré par Veo 3 est marqué d'un filigrane SynthID, la technologie de DeepMind permettant de suivre et d'identifier le contenu généré par l'IA. L'entreprise fournit également un guide de sécurité, soulignant l'objectif d'aider les utilisateurs à créer et à identifier du contenu IA de manière responsable.
Mais avec l'émergence des vidéos IA en général et de l'outil Veo 3 en particulier, la question de l'éthique de l'IA se pose sous un angle spécifique. L'IA déforme l'identité culturelle : elle peut créer des versions « hybrides » de la culture nationale, semant la confusion quant à l'origine, perdant l'âme de l'identité culturelle et, à long terme, rendant difficile pour la communauté de distinguer la valeur originale de la variation. Violation des droits de propriété culturelle : l'IA collecte, copie et reproduit facilement des éléments culturels sans reconnaissance ni protection du droit d'auteur, ce qui entraîne une utilisation généralisée des valeurs traditionnelles. Impact socio-psychologique : l'exposition fréquente à de faux contenus rend les utilisateurs confus, sceptiques quant à l'authenticité de toutes les informations, affectant la confiance sociale et les valeurs culturelles communes.
« Le développement rapide de cette technologie a rendu les réglementations juridiques, les mesures de protection des droits d'auteur et l'identification du vrai et du faux inadaptés, ce qui pose de nombreux défis pour la préservation et la promotion des valeurs culturelles traditionnelles. Veo 3 est non seulement un outil de divertissement, mais aussi une avancée majeure dans les domaines de la communication, de l'éducation , du marketing et même du cinéma. Cependant, ces opportunités s'accompagnent de défis majeurs, tels que le risque d'abus technologique, le remplacement des humains dans les industries créatives et les questions éthiques qui en découlent. Par conséquent, le rôle des politiques, des normes éthiques et de l'éducation aux compétences numériques pour la communauté est crucial pour que l'IA comme Veo 3 puisse être développée et utilisée de manière responsable », a déclaré M. Phan Phuoc Quoc, directeur de GenZ Company.
D'autre part, le développement des outils d'IA s'accompagne d'un risque accru de cyberattaques. Plus les outils d'IA pour la création de vidéos sont sophistiqués, plus le risque de cyberattaques utilisant des deepfakes se développera vers de nouvelles formes, plus dangereuses. Selon Kaspersky (l'un des plus grands éditeurs de logiciels antivirus au monde ), une attaque deepfake se produit en moyenne toutes les 5 minutes, et on prévoit que d'ici 2026, jusqu'à 90 % du contenu en ligne sera créé à l'aide de l'IA. La principale cible des attaques deepfakes reste les utilisateurs ordinaires disposant de données personnelles, bancaires et de moyens de paiement…
« Le risque de diffusion de faux contenus et de contenus falsifiés grâce à la technologie deepfake inquiète de nombreuses personnes. Des outils d'IA comme Veo 3 peuvent être exploités pour produire de faux contenus, portant atteinte à la réputation d'individus et d'organisations ou provoquant des troubles de l'information sociale », a déclaré M. Vu Ngoc Son, directeur du département de recherche, de conseil, de développement technologique et de coopération internationale de la National Cyber Security Association (NCA).
BA TAN
Source : https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
![[Vidéo] Instructions sur le processus de réception et de traitement des dossiers de procédure administrative conformément aux dispositions du décret n° 118 du gouvernement](https://vphoto.vietnam.vn/thumb/402x226/vietnam/resource/IMAGE/2025/6/17/3fa28bed9d654390aa05ac37850ed5b6)
Comment (0)