Varje gång jag surfar på internet ser jag roliga videor skapade av AI.

(Dan Tri) – Videor med "avvikande" innehåll skapade av Veo 3 dyker ofta upp på sociala nätverkssajter.

Överallt där jag surfar ser jag nonsenshumor från Veo 3.

På senare tid har användare av sociala medier, särskilt TikTok, ständigt stött på "komedi" -videor skapade av Veo 3-verktyget. Även om de flesta av dem är underhållande har mycket av innehållet börjat avvika från normen och orsaka kontroverser.

”Varje gång jag öppnar TikTok ser jag roliga videor med bekanta motiv, som en gammal kvinna som bär en gris att sälja för att hon åt för mycket och sovit för mycket”, delade Huyen Mai (20 år).

Huyen Mai sa att hennes TikTok är fylld med "komedi"-videor skapade av Veo 3 (Foto: Skärmdump).

Mai berättade att liknande videor dök upp allt oftare, vilket fick henne att känna sig obekväm och tro att de bara var för att "locka tittare" och inte ge något värde till tittarna.

Mai sa att hon ofta har stött på negativa eller stötande videor i sitt nyhetsflöde: ”Många TikTok-kanaler skapar videor om fiktiva situationer eller verkliga berättelser som innehåller obscena, stötande inslag och falsk information bara för att locka visningar.”

En serie stötande och chockerande innehåll skapades i syfte att "locka till sig visningar" (Foto: Skärmdump).

Precis som i Huyen Mais berättelse uttryckte även Hoang Anh (20 år) nyligen sin frustration. Han sa att Veo 3 ger mycket realistiska bilder och innehåll, och många videor är skapade med intressant och underhållande innehåll.

Men efter ett tag märkte han att videor med en tendens att vara "negativa" och "chockerande för att locka visningar" gradvis dök upp oftare istället för att fokusera på positiva värden.

”En elev reste sig upp och svor, det var en av videorna som Veo 3 skapat och som jag såg nyligen. Jag undrade varför det fanns så stötande innehåll på sociala medier, särskilt under extremt viktiga prov”, anförtrodde Hoang Anh.

Många AI-genererade videor med olämpligt språk och innehåll dyker ofta upp på sociala nätverk (Foto: Skärmdump).

Ännu mer oroande är att vissa videor använder bilder av karaktärer och barnröster för att säga känsliga, oetiska repliker, men ändå lockar till sig tusentals interaktioner från onlinecommunityn.

Dessutom skapar många Veo 3-användare situationer för att främja avvikande beteenden under täckmantel av rent underhållande innehåll.

Vanligtvis skapar vissa applikationer och webbplatser, såsom spel och vadslagning, uppenbart reklamvideor till tittarna och sprider dem i hemlighet öppet under täckmantel av "underhållningsvideor".

Dörren till många konsekvenser

Det är obestridligt att utvecklingen av videogenererande AI-verktyg som Veo 3, samtidigt som den ger stor potential till innehållsproduktionssektorn i många butiker och företag, också öppnar en "dörr" som leder till virtuella konsekvenser i verkligheten.

Detta väcker frågor som ”Kan vuxna eller barn skilja mellan AI-genererade videor?” och ”Hur kommer dessa stötande videor att påverka barns uppfattningar?”

Vietnam Televisions logotyp infogad i AI-genererat innehåll (Foto: Skärmdump).

Inte bara för underhållningsändamål har många experter varnat för de potentiella riskerna med "avvikande" innehåll skapat av AI. Dessa produkter kan, när de sprids i en svindlande hastighet på sociala nätverk, få äldre eller barn att passivt ta emot och lätt påverkas i en negativ riktning.

Sociala medieplattformar står för närvarande inför en stor utmaning när det gäller innehållscensur, eftersom vem som helst med bara några få enkla steg kan skapa en serie videor med avvikande innehåll, som till och med främjar stötande, depraverat eller olagligt beteende.

Det utgör inte bara en risk gällande innehållet, utan det får också många konsekvenser att komma åt och använda Veo 3 i Vietnam. Eftersom Google inte officiellt har stöttat detta verktyg på den inhemska marknaden, tillsammans med de höga avgifterna (20 dollar/månad för ett Pro-konto, 250 dollar/månad för ett Ultra-konto), har många teknikentusiaster hittat sätt att "övervinna barriären" genom att använda VPN, köpa flytande konton eller deklarera falsk information.

Många av dem har blivit offer för "kycklingvallnings"-knepen, som att marknadsföra billiga Veo 3-konton, vilket gör att de kan använda dem fritt, med obegränsade funktioner.

Inlägg som uppmanar till billiga Veo 3-konton översvämmar vietnamesiska sociala nätverk (skärmdump).

Många skurkar har utnyttjat behovet av att få tillgång till Veo 3 för att lura, och ber köpare att först överföra pengar och sedan snabbt "försvinna" spårlöst.

Det är värt att notera att vissa personer till och med accepterar att registrera Veo 3-konton med kundens Gmail-adress till ett "superförmånligt" pris. Detta utnyttjar dock i själva verket ett kryphål i Googles policy, vilket potentiellt riskerar att kontot låses permanent, vilket innebär att man förlorar åtkomst till e-postmeddelanden, dokument och alla relaterade personuppgifter.

Tekniken är inte bristfällig

Faktum är att ingen AI-plattform är utformad för att skapa negativt innehåll eller främja kränkande beteende. Alla konsekvenser kommer från hur människor använder verktyget, vilket innebär att användarens medvetenhet och ansvar är de avgörande faktorerna.

Dr. Nguyen Van Son, föreläsare vid fakulteten för informationsteknologi, University of Technology (Vietnam National University, Hanoi ), kommenterade: ”Jag uppskattar verkligen de positiva värden som artificiell intelligens tillför. Om den används på rätt sätt kan AI ge många praktiska bidrag till samhället och lokalsamhället.”

Enligt honom uppstår dock problem när tekniken hamnar i händerna på människor med ohälsosamma motiv. ”Vid den tidpunkten blir AI ett effektivt verktyg för att stödja negativa beteenden, och till och med förstärka dåliga effekter på samhället”, varnade Dr. Son.

Därifrån uppmanade han användare, särskilt unga människor, att proaktivt öka sin medvetenhet och sitt ansvar när de närmar sig och tillämpar AI, i syfte att skapa kvalitativt, civiliserat innehåll istället för att sprida skräpiga, stötande produkter.

Dr. Nguyen Van Son anser att utbildning är nyckeln till att begränsa etiska överträdelser vid användning av AI (Foto: Figur bifogad).

Dessutom anser Dr. Nguyen Van Son att en av de långsiktiga strategierna för att begränsa etiska kränkningar vid användning av AI är att närma sig detta från ett pedagogiskt perspektiv. Enligt honom är det en nyckelfaktor att öka medvetenheten, hjälpa användarna att förstå personligt ansvar och bygga en etisk grund vid användning av teknik, vilket bidrar till bildandet av en civiliserad digital gemenskap.

Många experter har inte bara stannat vid varningar om "skräppost" utan har upprepade gånger tagit upp frågan om potentiella faror med AI-genererade verktyg, särskilt möjligheten att skapa videor, som kan bli en källa till storskalig spridning av desinformation.

”Tekniskindustrin har ägnat år åt att hantera farorna med deepfakes. Men framväxten av alltmer avancerade AI-videoverktyg är en tydlig varning om att regleringen av innehåll som genereras av AI, och därmed AGI, bara kommer att bli svårare”, varnade Connor Leahy, VD för Conjecture.

Nguyen Thi Trang, VD för Pisa Solutions LLC, delar samma åsikt och betonade vikten av kritiskt tänkande i samband med alltmer överlägsen AI.

”Vi är inte bara användare av AI, utan också mottagare av en mängd olika AI-genererade innehåll. Förutom att använda verktyg etiskt behöver varje person öva på förmågan att uppfatta information från flera perspektiv, eftersom det för närvarande finns många videor skapade av AI som verkar autentiska men i hemlighet marknadsför falskt innehåll”, delade Trang.

Källa: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm