Images, vidéos et chansons générées par l'IA : attention au « tornade » de contenus générés par l'IA sur les réseaux sociaux

L'intelligence artificielle (IA) est exploitée dans les activités commerciales en ligne, des ventes à la fraude caritative, obligeant les régulateurs et les entreprises à trouver rapidement des solutions pour identifier et contrôler les risques à l'ère du contenu artificiel.

De plus en plus d'images et de vidéos retouchées et ajoutées par l'IA sont publiées sur les réseaux sociaux pour générer des vues - Photo : DUC THIEN

Si, par le passé, les utilisateurs ordinaires devaient faire appel à des experts en Photoshop pour créer une fausse photo, aujourd'hui, grâce à l'IA, en moins de 5 minutes et avec quelques compétences de base, une série de fausses photos peuvent apparaître n'importe où.

Quand l'IA crée des images, des vidéos, des chansons… si réalistes qu'on a du mal à y croire

Utilisant Facebook régulièrement tous les jours, Mme Hoan My (HCMC) - une employée en communication - a déclaré qu'il y a de plus en plus de contenu publié par les utilisateurs grâce à l'intervention d'outils d'IA.

« Beaucoup de photos publiées par des amis ou des membres de groupes sont tellement réalistes que je serais incapable de dire si l'IA a été utilisée s'ils ne le précisaient pas. De plus en plus de vidéos, qu'il s'agisse d'animations, de créations imaginaires, de courts métrages ou de vidéos relatant des événements réels, sont réalisées par des outils d'IA sans que je puisse le savoir », a confié Mme My.

Outre les images et les vidéos, on trouve également sur YouTube de nombreuses chansons interprétées ou composées par des « chanteurs IA ». Cette nouvelle expérience enthousiasme de nombreux utilisateurs qui rivalisent de créativité pour la partager avec leurs amis sur les réseaux sociaux.

« Je ne peux pas dire s'il s'agit d'un chanteur IA si cela n'est pas annoncé. Le contenu généré par l'IA est de plus en plus répandu dans le cyberespace vietnamien. Les utilisateurs ordinaires comme moi ne sauront probablement bientôt plus quel contenu provient de personnes réelles, quel contenu provient de l'IA ou a subi une intervention de l'IA », a déclaré Khanh Ha (Hô-Chi-Minh-Ville).

Récemment, de nombreuses plateformes de réseaux sociaux au Vietnam ont diffusé des vidéos et des diffusions en direct présentant des produits vendus par des personnes handicapées, ce qui a rendu la communauté en ligne plus solidaire et encourageant le partage.

Cependant, de nombreux cas ont par la suite été révélés par la communauté en ligne, montrant l'utilisation de l'IA pour transformer des personnes valides en personnes handicapées. Le but de cette supercherie est d'exploiter la compassion des internautes pour vendre des biens ou commettre des actes frauduleux.

De nombreux experts en technologies affirment que les réseaux sociaux ont récemment vu apparaître un nombre croissant de comptes publiant des vidéos promotionnelles utilisant des images de personnes handicapées, malades ou défavorisées afin de susciter la compassion. Or, il s'avère qu'une grande partie de ce contenu est créée ou modifiée à l'aide d'outils d'intelligence artificielle, transformant des personnes valides en personnes handicapées à des fins lucratives ou frauduleuses.

Dans un entretien avec Tuoi Tre, M. Milko Radotic, vice-président en charge de la région Asie- Pacifique d'iProov, leader mondial des technologies d'authentification biométrique, a averti : « Nos recherches montrent que 99,9 % des participants ne peuvent pas reconnaître les deepfakes. Même les outils de détection les plus avancés d'aujourd'hui rencontrent de nombreuses difficultés. »

Renforcer la résistance des utilisateurs numériques

M. Dang Huu Son, directeur adjoint de l'Institut de recherche appliquée et de développement des ressources humaines AIOV, fondateur et PDG de la société LovinBot AI, a déclaré que depuis le lancement par Google des technologies d'IA Nano Banana et Veo 3, par ByteDance de Seedream 4, et avant cela par OpenAI de GPT Image, le marché de l'IA a connu une activité extrêmement intense et a également entraîné de nombreuses conséquences.

« La technologie n'a jamais été aussi accessible qu'aujourd'hui. Il s'agit de modèles d'IA extrêmement puissants capables de reproduire les visages à près de 90 %, voire 99 %, par rapport à la photo originale », a commenté M. Son.

Si, par le passé, les utilisateurs ordinaires devaient faire appel à des experts en Photoshop pour créer une fausse photo, aujourd'hui, grâce à l'IA, en moins de 5 minutes et avec quelques compétences de base, un ensemble de fausses photos, une fausse vidéo découpée et collée, et agrémentée d'effets dignes d'un reportage, peuvent se diffuser à une vitesse vertigineuse.

« Les fausses informations sont diffusées massivement et facilement accessibles, si bien qu'un grand nombre de personnes exposées quotidiennement finissent par les croire vraies. Il est donc nécessaire de trouver des solutions pour limiter ces problèmes », a souligné M. Son.

Selon M. Trinh Nguyen Thien Phuoc, directeur technique de Gianty Vietnam, la détection des contenus générés par l'IA nécessite trois niveaux : (1) la vérification des utilisateurs (avec des règles de base) ; (2) des outils techniques tels que les certificats d'authenticité (C2PA), les marqueurs d'identification par tatouage numérique (SynthID, AudioSeal) et les détecteurs de deepfakes ; (3) une coordination entre les parties prenantes : plateformes, opérateurs de réseau, banques, etc.

En particulier, la règle d'or doit être appliquée très rapidement, en 30 à 60 secondes, notamment : ne cliquez pas sur des liens étranges et consultez l'application/le site web officiel pour vérification ; arrêtez immédiatement lorsque vous rencontrez des mots clés qui vous obligent à agir (OTP/transfert d'argent/urgent).

Dans le même temps, les utilisateurs doivent vérifier auprès de deux sources indépendantes avant de croire une information ; vérifier la date, l’heure et le contexte (il peut s’agir d’informations anciennes présentées comme nouvelles) ; rappeler le numéro officiel qu’ils ont trouvé eux-mêmes et ne pas utiliser celui fourni par d’autres ; avec des images et des vidéos, les utilisateurs peuvent effectuer des recherches ultérieures pour trouver des informations connexes…

De nombreux experts estiment que la solution fondamentale pour lutter contre la vague de fausses informations générées par l'IA réside dans la sensibilisation du public. Plutôt que de se concentrer uniquement sur des mesures techniques, il est nécessaire de mettre en place des programmes de formation, des concours ou des simulations de situations réelles afin d'aider les individus à modifier leurs habitudes de consommation d'informations.

Pour les jeunes, notamment les étudiants, l'association de concours en ligne, de campagnes médiatiques avec des célébrités ou des influenceurs peut susciter un intérêt naturel, leur permettant d'apprendre et d'expérimenter tout en développant leurs compétences pour identifier les fausses informations et les vidéos truquées. Parallèlement, les personnes âgées, surtout en milieu rural, ont besoin de supports plus familiers et intuitifs tels que des dépliants illustrés, des vidéos pédagogiques ou des projections dans les centres culturels et lors d'activités communautaires.

« Une approche adaptée à chaque groupe permettra de créer une base solide et durable de sensibilisation, au lieu de se limiter à des actions ponctuelles. Par exemple, certaines unités ont développé des extensions pour le navigateur Chrome afin d'aider les utilisateurs à vérifier les informations lorsqu'ils naviguent sur Internet ou sur les réseaux sociaux… », a expliqué M. Dang Huu Son.

Utiliser l'IA pour détecter les fausses IA

Récemment, Honor a intégré une fonctionnalité de détection de deepfakes par intelligence artificielle à sa nouvelle gamme de téléphones. Capable d'analyser images et voix en 3 secondes, cette fonctionnalité alerte en cas de contrefaçon directement sur des applications comme Messenger, Zalo, Viber ou Google Meet, offrant ainsi une véritable protection numérique contre les arnaques sophistiquées.

Auparavant, en septembre 2025, MoMo avait annoncé sa coopération avec iProov pour déployer la technologie Dynamic Liveness afin de vérifier que les utilisateurs sont réels, possèdent la bonne identité et sont présents au moment de la transaction, empêchant ainsi la fraude à l'aide de deepfakes, de fausses vidéos ou d'images truquées.

Dans les secteurs à haut risque comme la finance, ce niveau de sécurité est crucial pour prévenir la fraude, empêcher les accès non autorisés et maintenir la confiance des utilisateurs dans la plateforme.

Retour au sujet

VERTU

Source : https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm