Aanstootgevend audioverhaal gemaakt met AI: spamcontent trekt miljoenen kijkers

(Dan Tri) - Hoe eenvoudiger het is om video's met content en afbeeldingen te maken met behulp van AI, hoe meer 'internetrommel' er ontstaat.

Audioverhalen, een handige manier om boeken te 'lezen', worden steeds populairder voor YouTube-kanalen die gebruikmaken van AI-technologie om sensationele, gewelddadige content te produceren om kijkers te trekken, met zorgwekkende gevolgen.

Audioverhalen zijn geen nieuw concept op YouTube. Het trekt veel actieve gebruikers die toegang willen tot de content zonder tijd te hoeven besteden aan lezen.

Met behulp van echte menselijke stemmen of AI worden literaire werken, liefdesromans, detectiveverhalen, horrorverhalen... omgezet in video's van verschillende lengtes.

De snelle ontwikkeling van AI-technologie wordt echter door veel YouTube-kanalen misbruikt. Ze maken een reeks verhalende video's met sensationele en gewelddadige content, die de nieuwsgierigheid van kijkers prikkelen om interactie en weergaven te genereren.

Walgelijk, griezelig audioverhaal trekt miljoenen kijkers

Het creëren van content en afbeeldingen was nog nooit zo eenvoudig dankzij een overvloed aan AI-software en websites. Met slechts een paar simpele opdrachten kunnen gebruikers on-demand content en afbeeldingen maken.

Veel YouTube-kanalen maken hier gebruik van en hebben audioverhalen gepost waarvan de inhoud, afbeeldingen en stemmen allemaal door AI zijn geproduceerd.

Het vastgezette commentaarkanaal bevestigt het fictieve karakter van de gewelddadige inhoud, maar het is onduidelijk waarom het onderschrift ‘een positieve boodschap overbrengen’ is toegevoegd (schermafbeelding).

Als u zoekt naar de term "rich woman audio story", krijgt u een reeks video's met vergelijkbare inhoud en afbeeldingen te zien, die allemaal door AI zijn gegenereerd.

Ondanks hun verschillende lengtes hebben al deze video's met elkaar gemeen dat de verhalen sensationeel en gewelddadig zijn en door AI worden bedacht en voorgelezen.

Dankzij de intrigerende inhoud en de stem van een detective worden deze video's al snel duizenden, zelfs miljoenen keren bekeken en gegenereerd door interacties.

Elke dag plaatsen deze kanalen 2-3 video's, die veel kijkers en abonnees trekken.

Virtuele content, echte impact

Het is de moeite waard om te vermelden dat er nog steeds veel onzinverhalen worden uitgezonden, ook al geven de zenders zelf toe dat ze "niet waar" zijn en "alle details verzonnen zijn".

Veel mensen, vooral ouderen en mensen met weinig kennis van technologie, geloven dat deze verhalen waar zijn.

Gebruikers maakten zich zorgen over een door AI gegenereerde audiovideo op Threads die tot misverstanden leidde bij ouders en ouderen (Foto: Screenshot).

Content, met name door AI gegenereerde afbeeldingen, wordt steeds realistischer, waardoor het moeilijk is om echt van nep te onderscheiden. Veel YouTube-kanalen spelen in op trends en actueel nieuws en maken ook video's waarin ze gebeurtenissen 'volgen' om kijkers te trekken.

Hoewel AI veel voordelen biedt, heeft de toename van virtuele video's met gewelddadige en aanstootgevende inhoud ernstige gevolgen.

Deze audioverhalen trekken nog steeds duizenden kijkers. En hoe schokkender en gewelddadiger de inhoud, hoe groter de interactie.

Hoewel veel kanalen beweren dat hun content fictief is en "de verantwoordelijkheid afwijzen", betekent dit niet dat het de perceptie en zelfs het gedrag van kijkers niet beïnvloedt. Disclaimers zijn simpelweg een manier voor kanalen om "zichzelf op te ruimen" van de rommel die ze creëren.

De vraag is wat er gebeurt als kijkers geen onderscheid meer kunnen maken tussen nepnieuws en echt nieuws, of wat de gevolgen zijn als kinderen per ongeluk content zien met veel gewelddadige elementen?

Dr. Nguyen Van Son, docent aan de faculteit informatietechnologie van de Technische Universiteit (Nationale Universiteit van Vietnam, Hanoi ), benadrukte: "AI kan veel praktische bijdragen leveren aan de gemeenschap en de maatschappij, maar wanneer het wordt uitgebuit en gebruikt voor de verkeerde doeleinden, kan het veel ernstige gevolgen hebben."

Volgens Dr. Nguyen Van Son moeten gebruikers hun bewustzijn en verantwoordelijkheidsgevoel vergroten wanneer ze AI benaderen en toepassen (foto: personage aangeleverd).

Dr. Son roept gebruikers, en dan met name jongeren, op om bewuster en verantwoordelijker om te gaan met AI en deze toe te passen. Ze willen kwalitatieve, beschaafde producten creëren in plaats van rommel en aanstootgevende producten te verspreiden die welig tieren op het internet.

De gewoonte om naar audioverhalen te luisteren is niet slecht, maar als we mensen onbedoeld helpen om misbruik te maken van deze gewoonte en de technologische vooruitgang om gewelddadige en aanstootgevende producten te maken, vervuilen we de online omgeving.

Gebruikers moeten de informatie verifiëren en zichzelf voorzien van een 'filter' om te voorkomen dat ze op een dwaalspoor worden gebracht door valse informatie die verwarring bij het publiek veroorzaakt.

Bron: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm