Chaque fois que je surfe sur Internet, je vois des vidéos stupides et amusantes créées par l'IA.

(Dan Tri) - Des vidéos au contenu « déviant » créées par Veo 3 apparaissent fréquemment sur les sites de réseaux sociaux.

Partout où je surfe, je vois de l'humour absurde de Veo 3

Ces derniers temps, les utilisateurs des réseaux sociaux, et notamment TikTok, sont constamment confrontés à des vidéos humoristiques créées par Veo 3. Bien que la plupart soient divertissantes, nombre de ces contenus s'écartent des normes et suscitent la controverse.

« Chaque fois que j'ouvre TikTok, je vois des vidéos amusantes avec des motifs familiers, comme une vieille femme portant un cochon pour le vendre parce qu'elle a trop mangé et trop dormi », a partagé Huyen Mai (20 ans).

Huyen Mai a déclaré que son TikTok était rempli de vidéos « comiques » créées par Veo 3 (Photo : capture d'écran).

Mai a partagé que des vidéos similaires apparaissaient de plus en plus fréquemment, ce qui la mettait mal à l'aise et lui faisait penser que ces vidéos n'étaient destinées qu'à « attirer les spectateurs », sans apporter aucune valeur ajoutée aux téléspectateurs.

Mai a déclaré qu'elle avait souvent rencontré des vidéos négatives ou offensantes sur son fil d'actualité : « De nombreuses chaînes TikTok créent des vidéos sur des situations fictives ou des histoires réelles qui intègrent des éléments obscènes, offensants et de fausses informations juste pour attirer les vues. »

Une série de contenus offensants et choquants a été créée dans le but « d'attirer des vues » (Photo : Capture d'écran).

À l'instar de Huyen Mai, Hoang Anh (20 ans) a récemment exprimé sa frustration. Il a déclaré que Veo 3 offrait des images et un contenu très réalistes, et que de nombreuses vidéos étaient intéressantes et divertissantes.

Mais après un certain temps, il a remarqué que peu à peu, des vidéos ayant tendance à être « négatives » et « choquantes pour attirer les vues » apparaissaient plus souvent au lieu de se concentrer sur des valeurs positives.

« Un élève s'est levé et a insulté. C'était l'une des vidéos de Veo 3 que j'ai regardées récemment. Je me suis demandé pourquoi il y avait autant de contenu offensant sur les réseaux sociaux, surtout en cette période d'examens extrêmement importants », a confié Hoang Anh.

De nombreuses vidéos générées par l’IA avec un langage et un contenu inappropriés apparaissent fréquemment sur les réseaux sociaux (Photo : Capture d’écran).

Plus inquiétant encore, certaines vidéos utilisent des images de personnages et des voix d’enfants pour dire des phrases sensibles et contraires à l’éthique, mais attirent néanmoins des milliers d’interactions de la part de la communauté en ligne.

De plus, de nombreux utilisateurs de Veo 3 créent également des situations pour promouvoir des comportements déviants sous couvert de contenu purement divertissant.

En règle générale, certaines applications et certains sites Web tels que les jeux d'argent et les paris créent de manière flagrante des vidéos promotionnelles destinées aux téléspectateurs, les diffusant secrètement sous le couvert de « vidéos de divertissement ».

La porte à de nombreuses conséquences

Il est indéniable que le développement d’outils d’IA générateurs de vidéos comme Veo 3, tout en apportant un grand potentiel au secteur de la production de contenu dans de nombreux magasins et entreprises, ouvre également une « porte » menant à des conséquences virtuelles dans la vie réelle.

Cela soulève des questions telles que « Les adultes ou les enfants peuvent-ils faire la distinction entre les vidéos générées par l’IA ? » et « Quel impact ces vidéos offensantes auront-elles sur la perception des enfants ? »

Le logo de la télévision vietnamienne inséré dans le contenu généré par l'IA (Photo : capture d'écran).

De nombreux experts ont mis en garde contre les risques potentiels des contenus « déviants » créés par l'IA, et pas seulement à des fins de divertissement. Ces produits, lorsqu'ils se propagent à une vitesse vertigineuse sur les réseaux sociaux, peuvent inciter les personnes âgées ou les enfants à les recevoir passivement et à être facilement influencés négativement.

Les plateformes de médias sociaux sont actuellement confrontées à un défi majeur en matière de censure de contenu, car en quelques étapes simples, n'importe qui peut créer une série de vidéos au contenu déviant, voire promouvoir un comportement offensant, dépravé ou illégal.

Au Vietnam, l'accès à Veo 3 et son utilisation présentent non seulement un risque lié au contenu, mais ont également de nombreuses conséquences. Google n'ayant pas officiellement pris en charge cet outil sur le marché national, et les frais étant élevés (20 $/mois pour un compte Pro, 250 $/mois pour un compte Ultra), de nombreux passionnés de technologie ont trouvé des moyens de contourner ce problème en utilisant un VPN, en achetant des comptes flottants ou en déclarant de fausses informations.

Beaucoup d'entre eux sont devenus victimes de manœuvres de « représailles » telles que la publicité de comptes Veo 3 bon marché, leur permettant de les utiliser librement, avec des fonctionnalités illimitées.

Des publications invitant à acheter des comptes Veo 3 à bas prix inondent les réseaux sociaux vietnamiens (capture d'écran).

De nombreux malfaiteurs ont profité de la nécessité d'accéder à Veo 3 pour escroquer, demandant aux acheteurs de transférer d'abord de l'argent, puis de « disparaître » rapidement sans laisser de trace.

Il est à noter que certains utilisateurs acceptent même d'enregistrer des comptes Veo 3 avec l'adresse Gmail du client à un tarif « super préférentiel ». Cependant, il s'agit en réalité d'exploiter une faille dans la politique de Google, ce qui peut entraîner le blocage définitif du compte et la perte de l'accès aux e-mails, aux documents et à toutes les données personnelles associées.

La technologie n'est pas défectueuse

En réalité, aucune plateforme d'IA n'est conçue pour créer du contenu négatif ou favoriser des comportements abusifs. Toutes les conséquences découlent de la manière dont les utilisateurs utilisent l'outil, ce qui signifie que la conscience et la responsabilité de l'utilisateur sont déterminantes.

Le Dr Nguyen Van Son, maître de conférences à la Faculté des technologies de l'information de l'Université de technologie (Université nationale du Vietnam, Hanoï ), a déclaré : « J'apprécie grandement les bienfaits de l'intelligence artificielle. Utilisée à bon escient, l'IA peut apporter de nombreuses contributions concrètes à la société et à la communauté. »

Cependant, selon lui, des problèmes surgissent lorsque la technologie tombe entre les mains de personnes mal intentionnées. « L'IA devient alors un outil efficace pour favoriser des comportements négatifs, amplifiant même les effets néfastes sur la société », prévient le Dr Son.

Il a ensuite appelé les utilisateurs, en particulier les jeunes, à accroître de manière proactive leur sensibilisation et leur responsabilité lors de l'approche et de l'application de l'IA, dans le but de créer un contenu de qualité et civilisé au lieu de diffuser des produits de mauvaise qualité et offensants.

Le Dr Nguyen Van Son estime que l’éducation est la clé pour limiter les violations éthiques lors de l’utilisation de l’IA (Photo : Caractère fourni).

Par ailleurs, le Dr Nguyen Van Son estime qu'une approche pédagogique est une stratégie à long terme pour limiter les violations éthiques liées à l'utilisation de l'IA. Selon lui, sensibiliser les utilisateurs, les aider à comprendre leurs responsabilités personnelles et instaurer des bases éthiques dans l'utilisation des technologies est essentiel pour contribuer à la formation d'une communauté numérique civilisée.

Non seulement ils s'arrêtent aux avertissements sur le contenu « spam », mais de nombreux experts ont soulevé à plusieurs reprises la question des dangers potentiels des outils générés par l'IA, en particulier la capacité de créer des vidéos, qui peuvent devenir une source de diffusion de désinformation à grande échelle.

« L'industrie technologique lutte depuis des années contre les dangers des deepfakes. Mais l'émergence d'outils vidéo d'IA de plus en plus perfectionnés est un avertissement clair : la réglementation des contenus générés par l'IA, et par conséquent l'AGI, ne fera que se complexifier », a averti Connor Leahy, PDG de Conjecture.

Partageant le même point de vue, Mme Nguyen Thi Trang, PDG de Pisa Solutions LLC, a souligné l'importance de la pensée critique dans le contexte d'une IA de plus en plus supérieure.

« Nous ne sommes pas seulement des utilisateurs de l'IA, mais aussi les destinataires d'un large éventail de contenus générés par elle. Outre une utilisation éthique des outils, chacun doit s'entraîner à percevoir l'information sous différents angles, car de nombreuses vidéos créées par l'IA semblent authentiques, mais diffusent en réalité des contenus trompeurs », a expliqué Mme Trang.

Source : https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm