Krenkende lydhistorie laget med AI: Spam-innhold tiltrekker seg millioner av visninger

(Dan Tri) – Jo enklere det er å lage videoer med innhold og bilder ved hjelp av AI, desto mer «internettsøppel» skapes.

Lydfortellinger, en praktisk form for å «lese» bøker, er i ferd med å bli grobunn for YouTube-kanaler som utnytter AI-teknologi til å produsere sensasjonelt, voldelig innhold for å tiltrekke seg visninger, noe som forårsaker bekymringsfulle konsekvenser.

Lydfortellinger er ikke et nytt konsept på YouTube, og tiltrekker seg et stort antall travle brukere som ønsker tilgang til innhold uten å måtte bruke tid på å lese.

Med støtte fra ekte menneskestemmer eller AI blir litterære verk, romantikk, detektivhistorier, skrekkhistorier ... konvertert til videoer i ulik lengde.

Den raske utviklingen av AI-teknologi har imidlertid blitt misbrukt av mange YouTube-kanaler. De lager en serie narrative videoer med sensasjonelt og voldelig innhold, som appellerer til seernes nysgjerrighet for å tiltrekke seg interaksjoner og visninger.

Motbydelig, uhyggelig lydhistorie tiltrekker seg millioner av visninger

Det har aldri vært enklere å lage innhold og bilder takket være en mengde AI-programvare og nettsteder. Med bare noen få enkle kommandoer kan brukere lage innhold og bilder på forespørsel.

Mange YouTube-kanaler har utnyttet dette og lagt ut lydhistorier der innhold, bilder og stemmer alle er produkter av AI.

Den festede kommentarkanalen bekrefter den fiktive naturen til det voldelige innholdet, men det er uklart hvorfor den la til bildeteksten «formidler et positivt budskap» (skjermbilde).

Hvis du søker etter uttrykket «lydhistorie om rik kvinne», vises en serie videoer med lignende innhold og bilder, alle generert av AI.

Til tross for ulik lengde har disse videoene til felles de sensasjonelle, voldelige plottene som er skapt og lest av AI.

Med spennende innhold og en detektivstemme tiltrekker disse videoene seg raskt tusenvis, til og med millioner av visninger og interaksjoner.

Hver dag legger disse kanalene ut 2–3 videoer, og tiltrekker seg et stort antall seere og abonnenter.

Virtuelt innhold, reell effekt

Det er verdt å nevne at mange tullehistorier, selv om kanalene selv innrømmer at de er «usanne» og «alle detaljer er oppdiktede», likevel tiltrekker seg seere.

Faktisk tror mange, spesielt eldre eller de med lite kunnskap om teknologi, at disse historiene er sanne.

Brukere uttrykte bekymring over en AI-generert lydvideo på Threads som forårsaket misforståelser hos foreldre og eldre (Foto: Skjermbilde).

Innhold, spesielt AI-genererte bilder, blir stadig mer realistisk, noe som gjør det vanskelig å skille mellom ekte og falskt. Mange YouTube-kanaler utnytter trender og hete nyheter og lager også videoer som «følger» hendelser for å tiltrekke seg visninger.

Selv om AI gir mange fordeler, har spredningen av virtuelle videoer med voldelig og støtende innhold alvorlige konsekvenser.

Disse lydvideoene tiltrekker seg fortsatt tusenvis av visninger, og jo mer sjokkerende og voldelig innholdet er, desto større er interaksjonen.

Selv om mange kanaler hevder at innholdet deres er fiktivt og «fraskriver seg ansvar», betyr ikke det at det ikke påvirker seernes oppfatninger og til og med deres oppførsel. Ansvarsfraskrivelser er rett og slett en måte for kanaler å «rydde seg opp» fra søppelet de lager.

Spørsmålet er hva som vil skje hvis seerne ikke kan skille mellom falske nyheter og ekte nyheter, eller hvordan vil barn bli påvirket når de ved et uhell ser innhold med mange voldelige elementer?

Dr. Nguyen Van Son, foreleser ved Fakultet for informasjonsteknologi, University of Technology (Vietnam National University, Hanoi ), understreket: «KI kan gi mange praktiske bidrag til samfunnet, men når den utnyttes og brukes til feil formål, kan den få mange alvorlige konsekvenser.»

Ifølge Dr. Nguyen Van Son må brukerne øke bevisstheten og ta ansvar når de tilnærmer seg og bruker AI (Foto: Figur vist).

Dr. Son oppfordret brukere, spesielt unge mennesker, til å øke bevisstheten og ansvarligheten når de tilnærmer seg og bruker AI, med sikte på å skape kvalitetsprodukter med et sivilisert formål i stedet for å spre søppel og støtende produkter som florerer i cyberspace.

Vanen med å lytte til lydfortellinger er ikke dårlig, men å utilsiktet hjelpe folk med å utnytte denne vanen og teknologiske fremskritt til å lage voldelige og støtende produkter forurenser nettmiljøet.

Brukere må bekrefte informasjon og utstyre seg med et «filter» for å skille mellom sannhet og usannhet, slik at de ikke blir villedet av falsk informasjon som forårsaker offentlig forvirring.

Kilde: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm