Chaque fois que je surfe sur Internet, je vois des vidéos stupides et amusantes créées par l'IA.

(Dan Tri) - Des vidéos au contenu « déviant » créées par Veo 3 apparaissent fréquemment sur les sites de réseaux sociaux.

Partout où je surfe, je vois de l'humour absurde de Veo 3

Ces derniers temps, les utilisateurs des réseaux sociaux, et notamment TikTok, sont constamment confrontés à des vidéos humoristiques créées par l'outil Veo 3. Bien que la plupart soient divertissantes, de nombreux contenus s'écartent de la norme et suscitent la controverse.

« Chaque fois que j'ouvre TikTok, je vois des vidéos amusantes avec des motifs familiers, comme une vieille femme portant un cochon pour le vendre parce qu'elle mange beaucoup et dort beaucoup », a partagé Huyen Mai (20 ans).

Huyen Mai a déclaré que son TikTok était rempli de vidéos « comiques » créées par Veo 3 (Photo : capture d'écran).

Mai a partagé que des vidéos similaires apparaissaient de plus en plus, ce qui la mettait mal à l'aise et lui faisait penser que ces vidéos n'étaient que pour « attirer les regards » et n'apportaient aucune valeur aux téléspectateurs.

Mai a déclaré avoir rencontré à plusieurs reprises des vidéos négatives ou offensantes sur son fil d'actualité : « De nombreuses chaînes TikTok créent des vidéos sur des situations fictives ou des histoires réelles qui intègrent des éléments obscènes, offensants et de fausses informations juste pour attirer les vues. »

Une série de contenus offensants et choquants a été créée dans le but « d'attirer des vues » (Photo : Capture d'écran).

Tout comme Huyen Mai, Hoang Anh (20 ans) a récemment exprimé sa frustration. Il a déclaré que Veo 3 offrait des images et un contenu très réalistes, et que de nombreuses vidéos étaient intéressantes et divertissantes.

Mais après un certain temps, il a progressivement remarqué que les vidéos ayant tendance à être « négatives » et « choquantes pour attirer les vues » apparaissaient plus souvent au lieu de se concentrer sur des valeurs positives.

« Un étudiant s'est levé et a insulté. C'était l'une des vidéos créées par Veo 3 que j'ai regardées récemment. Je me suis demandé pourquoi les réseaux sociaux diffusaient des contenus aussi offensants, surtout en cette période d'examens extrêmement importants », a confié Hoang Anh.

De nombreuses vidéos générées par l’IA avec un langage et un contenu inappropriés apparaissent fréquemment sur les réseaux sociaux (Photo : capture d’écran).

Plus inquiétant encore, certaines vidéos utilisent des images de personnages et des voix d’enfants pour dire des phrases sensibles et contraires à l’éthique, mais attirent néanmoins des milliers d’interactions de la part de la communauté en ligne.

De plus, de nombreux utilisateurs de Veo 3 créent également des situations pour promouvoir des comportements déviants sous couvert de contenu purement divertissant.

En règle générale, certaines applications et certains sites Web tels que les jeux d'argent et les paris créent de manière flagrante des vidéos promotionnelles pour les téléspectateurs, les diffusant secrètement et ouvertement sous le couvert de « vidéos de divertissement ».

La porte à de nombreuses conséquences

Il est indéniable que le développement d’outils de génération de vidéos IA comme Veo 3, tout en apportant un grand potentiel au secteur de la production de contenu dans de nombreux magasins et entreprises, ouvre également une « porte » menant à des conséquences virtuelles dans la vie réelle.

Cela soulève des questions telles que « Les adultes ou les enfants peuvent-ils faire la distinction entre les vidéos créées par l’IA ? » et « Comment ces vidéos offensantes affecteront-elles la perception des enfants ? »

Le logo de la télévision vietnamienne inséré dans le contenu généré par l'IA (Photo : capture d'écran).

De nombreux experts ont mis en garde contre les risques potentiels des contenus « déviants » créés par l'IA, et pas seulement à des fins de divertissement. Ces produits, lorsqu'ils se propagent à une vitesse vertigineuse sur les réseaux sociaux, peuvent inciter les personnes âgées ou les enfants à les recevoir passivement et à en subir facilement les conséquences négatives.

Les plateformes de médias sociaux sont actuellement confrontées à un défi majeur en matière de censure de contenu, car en quelques étapes simples, n'importe qui peut créer une série de vidéos au contenu déviant, voire promouvoir un comportement offensant, dépravé ou illégal.

Non seulement cela présente des risques potentiels concernant le contenu, mais l'accès et l'utilisation de Veo 3 au Vietnam ont également de nombreuses conséquences. Google n'ayant pas officiellement pris en charge cet outil sur le marché national, et compte tenu des frais élevés (20 $/mois pour un compte Pro, 250 $/mois pour un compte Ultra), de nombreux passionnés de technologie ont trouvé des moyens de contourner cet obstacle en utilisant un VPN, en achetant des comptes flottants ou en déclarant de fausses informations.

Beaucoup d'entre eux sont devenus victimes de pièges de « poulets » tels que la publicité de comptes Veo 3 bon marché, leur permettant de les utiliser librement, avec des fonctionnalités illimitées.

Des publications invitant à acheter des comptes Veo 3 à bas prix inondent les réseaux sociaux vietnamiens (capture d'écran).

De nombreux malfaiteurs ont profité de la nécessité d'accéder à Veo 3 pour escroquer, demandant aux acheteurs de transférer d'abord de l'argent, puis de « disparaître » rapidement sans laisser de trace.

Il est à noter que certains acceptent même d'enregistrer des comptes Veo 3 avec l'adresse Gmail du client à un tarif « super préférentiel ». Cependant, il s'agit en réalité d'exploiter une faille dans la politique de Google, ce qui peut entraîner le blocage définitif du compte et la perte de l'accès aux e-mails, aux documents et à toutes les données personnelles associées.

La technologie n’est pas défectueuse

En réalité, aucune plateforme d'IA n'est conçue pour générer du contenu négatif ou favoriser des comportements abusifs. Les conséquences dépendent de la manière dont les utilisateurs utilisent l'outil, ce qui signifie que la conscience et la responsabilité de l'utilisateur sont des facteurs déterminants.

Le Dr Nguyen Van Son, maître de conférences à la Faculté des technologies de l'information de l'Université de technologie (Université nationale du Vietnam, Hanoï ), a déclaré : « J'apprécie grandement les bienfaits de l'intelligence artificielle. Utilisée à bon escient, l'IA peut apporter de nombreuses contributions concrètes à la société et à la communauté. »

Cependant, selon lui, des problèmes surgissent lorsque la technologie tombe entre les mains de personnes aux motivations malsaines. « L'IA devient alors un outil efficace pour favoriser des comportements négatifs, amplifiant même les effets néfastes sur la société », prévient le Dr Son.

Il a ensuite appelé les utilisateurs, en particulier les jeunes, à accroître de manière proactive leur sensibilisation et leur responsabilité lorsqu'ils abordent et appliquent l'IA, dans le but de créer un contenu de qualité et civilisé au lieu de diffuser des produits de mauvaise qualité et offensants.

Le Dr Nguyen Van Son estime que l’éducation est la clé pour limiter les violations éthiques lors de l’utilisation de l’IA (Photo : Caractère fourni).

Par ailleurs, le Dr Nguyen Van Son estime qu'une approche pédagogique est une stratégie à long terme pour limiter les violations éthiques liées à l'utilisation de l'IA. Selon lui, sensibiliser les utilisateurs, les aider à comprendre leurs responsabilités personnelles et construire des bases éthiques dans l'utilisation des technologies est un facteur clé contribuant à la formation d'une communauté numérique civilisée.

Non seulement ils se contentent d'avertir des contenus « spam », mais de nombreux experts ont soulevé à plusieurs reprises la question des dangers potentiels des outils d'IA générative, notamment la capacité de créer des vidéos, qui peuvent devenir une source de désinformation à grande échelle.

« L'industrie technologique lutte depuis des années contre les dangers des deepfakes. Mais l'émergence d'outils vidéo d'IA de plus en plus avancés est un avertissement clair : la surveillance des contenus générés par l'IA, et par conséquent l'AGI, ne fera que se compliquer », a déclaré Connor Leahy, PDG de Conjecture.

Partageant le même point de vue, Mme Nguyen Thi Trang, PDG de Pisa Solutions Company Limited, a souligné l'importance de la pensée critique dans le contexte d'une IA de plus en plus supérieure.

« Nous ne sommes pas seulement des utilisateurs de l'IA, mais aussi les destinataires d'un large éventail de contenus générés par elle. Outre une utilisation éthique des outils, chacun doit s'entraîner à percevoir l'information sous différents angles, car de nombreuses vidéos créées par l'IA semblent authentiques, mais diffusent en réalité des contenus trompeurs », a expliqué Mme Trang.

Source : https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm