Histoire audio offensante créée avec l'IA : le contenu de spam attire des millions de vues

(Dan Tri) - Plus il est simple de créer des vidéos avec du contenu et des images à l'aide de l'IA, plus il y a de « déchets Internet ».

Les histoires audio, une forme pratique de « lecture » de livres, deviennent un terrain fertile pour les chaînes YouTube qui tirent parti de la technologie de l'IA pour produire du contenu sensationnel et violent afin d'attirer des vues, entraînant des conséquences inquiétantes.

Les histoires audio ne sont pas un concept nouveau sur YouTube, attirant un grand nombre d'utilisateurs occupés qui souhaitent accéder au contenu sans avoir à passer du temps à lire.

Avec le support de vraies voix humaines ou de l'IA, des œuvres littéraires, des romances, des romans policiers, des histoires d'horreur... sont converties en vidéos de différentes longueurs.

Cependant, le développement rapide de l'IA a été exploité abusivement par de nombreuses chaînes YouTube. Celles-ci créent des séries de vidéos narratives au contenu sensationnel et violent, attirant la curiosité des spectateurs pour susciter des interactions et des vues.

Une histoire audio dégoûtante et effrayante attire des millions de vues

Créer du contenu et des images n'a jamais été aussi simple grâce à la multitude de logiciels et de sites web d'IA. Avec quelques commandes simples, les utilisateurs peuvent créer du contenu et des images à la demande.

Profitant de cela, de nombreuses chaînes YouTube ont publié des histoires audio dont le contenu, les images et les voix sont tous des produits de l’IA.

La chaîne de commentaires épinglée affirme la nature fictive du contenu violent, mais on ne sait pas pourquoi elle a ajouté la légende « véhiculant un message positif » (capture d'écran).

La recherche de l'expression « histoire audio d'une femme riche » affiche une série de vidéos avec un contenu et des images similaires, toutes générées par l'IA.

Malgré leurs longueurs différentes, ces vidéos ont toutes en commun des intrigues sensationnelles et violentes créées et lues par l'IA.

Avec un contenu intrigant et une voix de détective, ces vidéos attirent rapidement des milliers, voire des millions de vues et d’interactions.

Chaque jour, ces chaînes publient 2 à 3 vidéos, attirant un grand nombre de téléspectateurs et d'abonnés.

Contenu virtuel, impact réel

Il convient de noter que de nombreuses histoires absurdes, même si les chaînes elles-mêmes admettent qu'elles sont « fausses » et que « tous les détails sont fictifs », attirent toujours les téléspectateurs.

En fait, de nombreuses personnes, en particulier les personnes âgées ou celles qui ont peu de connaissances en technologie, croient que ces histoires sont vraies.

Les utilisateurs ont exprimé leur inquiétude concernant une vidéo audio générée par l'IA sur Threads qui a provoqué des malentendus avec les parents et les personnes âgées (Photo : capture d'écran).

Le contenu, notamment les images générées par l'IA, est de plus en plus réaliste, ce qui rend difficile la distinction entre le vrai et le faux. Profitant des tendances et de l'actualité, de nombreuses chaînes YouTube créent également des vidéos « suivant » des événements pour attirer les vues.

Bien que l’IA apporte de nombreux avantages, la prolifération de vidéos virtuelles au contenu violent et offensant laisse de graves conséquences.

Ces vidéos d’histoires audio attirent toujours des milliers de vues, et plus le contenu est choquant et violent, plus l’interaction est grande.

Si de nombreuses chaînes affirment que leur contenu est fictif et « dégagent toute responsabilité », cela ne signifie pas qu'il n'influence pas la perception des téléspectateurs, ni même leur comportement. Les clauses de non-responsabilité sont simplement un moyen pour les chaînes de se « nettoyer » de leurs contenus indésirables.

La question est de savoir ce qui se passera si les téléspectateurs ne peuvent pas faire la distinction entre les fausses nouvelles et les vraies nouvelles, ou comment les enfants seront affectés lorsqu’ils regarderont accidentellement du contenu contenant de nombreux éléments violents.

Le Dr Nguyen Van Son, professeur à la Faculté des technologies de l'information de l'Université de technologie (Université nationale du Vietnam, Hanoi ), a souligné : « L'IA peut apporter de nombreuses contributions pratiques à la communauté et à la société, mais lorsqu'elle est exploitée et utilisée à de mauvaises fins, elle peut entraîner de nombreuses conséquences graves. »

Selon le Dr Nguyen Van Son, les utilisateurs doivent accroître leur sensibilisation et leur responsabilité lorsqu'ils abordent et appliquent l'IA (Photo : Caractère fourni).

Le Dr Son a appelé les utilisateurs, en particulier les jeunes, à faire preuve de plus de conscience et de responsabilité lorsqu'ils abordent et appliquent l'IA, dans le but de créer des produits de qualité et civilisés au lieu de diffuser des produits poubelles et offensants qui sévissent dans le cyberespace.

L’habitude d’écouter des histoires audio n’est pas mauvaise, mais aider involontairement les gens à profiter de cette habitude et des avancées technologiques pour créer des produits violents et offensants pollue l’environnement en ligne.

Les utilisateurs doivent vérifier les informations et se doter d’un « filtre » pour éviter d’être induits en erreur par de fausses informations qui sèment la confusion dans l’opinion publique.

Source : https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm