Stötande ljudberättelse skapad med AI: Spaminnehåll lockar miljontals visningar

(Dan Tri) – Ju enklare det är att skapa videor med innehåll och bilder med hjälp av AI, desto mer "internetskräp" skapas.

Ljudberättelser, en bekväm form av att "läsa" böcker, håller på att bli bördig jordmån för YouTube-kanaler som utnyttjar AI-teknik för att producera sensationellt, våldsamt innehåll för att locka visningar, vilket får oroande konsekvenser.

Ljudberättelser är inte ett nytt koncept på YouTube, utan lockar ett stort antal flitiga användare som vill få tillgång till innehåll utan att behöva lägga tid på att läsa.

Med stöd av riktiga mänskliga röster eller AI konverteras litterära verk, romantik, deckare, skräckhistorier... till videor i olika längder.

Den snabba utvecklingen av AI-teknik har dock missbrukats av många YouTube-kanaler. De skapar en serie berättande videor med sensationellt och våldsamt innehåll, som vädjar till tittarnas nyfikenhet för att locka till sig interaktioner och visningar.

Äcklig, obehaglig ljudberättelse lockar miljontals visningar

Att skapa innehåll och bilder har aldrig varit enklare tack vare en mängd AI-programvara och webbplatser. Med bara några få enkla kommandon kan användare skapa innehåll och bilder på begäran.

Genom att utnyttja detta har många YouTube-kanaler publicerat ljudberättelser vars innehåll, bilder och röster alla är produkter av AI.

Den fästa kommentarskanalen bekräftar den våldsamma innehållets fiktiva natur, men det är oklart varför den lade till bildtexten ”förmedlar ett positivt budskap” (skärmdump).

Om man söker efter frasen "rich woman audio story" visas en serie videor med liknande innehåll och bilder, alla genererade av AI.

Trots sina olika längder har dessa videor gemensamt de sensationella, våldsamma handlingarna som skapats och lästs av AI.

Med spännande innehåll och en detektivröst lockar dessa videor snabbt tusentals, till och med miljontals visningar och interaktioner.

Varje dag publicerar dessa kanaler 2–3 videor, vilket lockar ett stort antal tittare och prenumeranter.

Virtuellt innehåll, verklig effekt

Det är värt att nämna att många nonsenshistorier, trots att kanalerna själva medger att de är "osanna" och "alla detaljer är fiktiva", ändå lockar tittare.

Faktum är att många människor, särskilt äldre eller de med liten kunskap om teknik, tror att dessa berättelser är sanna.

Användare uttryckte oro över en AI-genererad ljudberättelsevideo på Threads som orsakade missförstånd hos föräldrar och äldre (Foto: Skärmdump).

Innehåll, särskilt AI-genererade bilder, blir alltmer realistiskt, vilket gör det svårt att skilja mellan äkta och falskt. Många YouTube-kanaler utnyttjar trender och heta nyheter och skapar även videor som "följer" händelser för att locka visningar.

Även om AI medför många fördelar, får spridningen av virtuella videor med våldsamt och stötande innehåll allvarliga konsekvenser.

Dessa ljudberättelsevideor lockar fortfarande tusentals visningar, och ju mer chockerande och våldsamt innehållet är, desto större är interaktionen.

Även om många kanaler hävdar att deras innehåll är fiktivt och "frånsäger sig ansvar", betyder det inte att det inte påverkar tittarnas uppfattningar och till och med deras beteende. Friskrivningar är helt enkelt ett sätt för kanaler att "städa upp" från det skräp de skapar.

Frågan är vad som kommer att hända om tittarna inte kan skilja mellan falska nyheter och riktiga nyheter, eller hur kommer barn att påverkas när de av misstag tittar på innehåll med många våldsamma inslag?

Dr. Nguyen Van Son, föreläsare vid fakulteten för informationsteknologi, University of Technology (Vietnam National University, Hanoi ), betonade: "AI kan ge många praktiska bidrag till samhället, men när den utnyttjas och används för fel ändamål kan den få många allvarliga konsekvenser."

Enligt Dr. Nguyen Van Son behöver användare öka sin medvetenhet och sitt ansvar när de närmar sig och tillämpar AI (Foto: Figur bifogad).

Dr. Son uppmanade användare, särskilt unga människor, att öka medvetenheten och ansvaret när de närmar sig och tillämpar AI, i syfte att skapa kvalitetsprodukter med civiliserad prägel istället för att sprida skräp och stötande produkter som frodas i cyberrymden.

Vanan att lyssna på ljudberättelser är inte dålig, men att oavsiktligt hjälpa människor att dra nytta av denna vana och tekniska framsteg för att skapa våldsamma och stötande produkter förorenar onlinemiljön.

Användare behöver verifiera information och utrusta sig med ett "filter" för att undvika att bli vilseledda av falsk information som orsakar förvirring hos allmänheten.

Källa: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm