Iedere keer als ik op het internet surf, zie ik grappige, stomme filmpjes die door AI zijn gemaakt.

(Dan Tri) - Er verschijnen regelmatig video's met 'afwijkende' inhoud die zijn gemaakt door Veo 3 op sociale netwerksites.

Overal waar ik surf, zie ik onzinnige humor van Veo 3

Gebruikers van sociale media, met name TikTok, komen de laatste tijd voortdurend 'komische' video's tegen die zijn gemaakt met de Veo 3-tool. Hoewel de meeste ervan vermakelijk zijn, begint veel van de content af te wijken van de norm en controverse te veroorzaken.

"Elke keer dat ik TikTok open, zie ik grappige video's met herkenbare motieven, zoals een oude vrouw die een varken draagt ​​om te verkopen omdat ze te veel heeft gegeten en te veel heeft geslapen", deelde Huyen Mai (20 jaar oud).

Huyen Mai zei dat haar TikTok vol staat met 'komische' video's gemaakt door Veo 3 (Foto: Screenshot).

Mai vertelde dat er steeds vaker vergelijkbare video's verschenen, waardoor ze zich ongemakkelijk begon te voelen. Ze dacht dat deze video's alleen bedoeld waren om kijkers te lokken en dat ze geen enkele waarde toevoegden.

Mai zei dat ze vaak negatieve of aanstootgevende video's in haar nieuwsfeed tegenkwam: "Veel TikTok-kanalen maken video's over fictieve situaties tot verhalen uit het echte leven die obscene, aanstootgevende elementen en valse informatie bevatten, alleen maar om kijkers te trekken."

Er werd een reeks aanstootgevende en schokkende content gecreëerd met als doel "weergaven te trekken" (Foto: Screenshot).

Net als Huyen Mai's verhaal uitte Hoang Anh (20 jaar) onlangs ook zijn frustraties. Hij zei dat Veo 3 zeer realistische beelden en content biedt, en dat er veel video's met interessante en vermakelijke content zijn gemaakt.

Maar na een tijdje merkte hij dat er steeds vaker video's verschenen die de neiging hadden om 'negatief' en 'schokkend' te zijn om weergaven te trekken, in plaats van dat de nadruk lag op positieve waarden.

"Een student stond op en vloekte, dat was een van de video's gemaakt door Veo 3 die ik onlangs zag. Ik vroeg me af waarom er zulke aanstootgevende content op sociale media stond, vooral tijdens de periode van extreem belangrijke examens", vertrouwde Hoang Anh toe.

Er verschijnen regelmatig door AI gegenereerde video's met ongepaste taal en inhoud op sociale netwerken (Foto: Schermafbeelding).

Wat nog zorgelijker is, is dat in sommige video's beelden van personages en kinderstemmen worden gebruikt om gevoelige, onethische teksten te zeggen, maar dat ze toch duizenden interacties opleveren binnen de online gemeenschap.

Bovendien creëren veel Veo 3-gebruikers situaties waarin ze afwijkend gedrag stimuleren, onder het mom van louter vermakelijke content.

Sommige apps en websites, bijvoorbeeld voor gok- en wedwebsites, maken openlijk promotievideo's voor kijkers en verspreiden deze vervolgens in het geheim onder het mom van 'entertainmentvideo's'.

De deur naar vele gevolgen

Het is onmiskenbaar dat de ontwikkeling van videogenererende AI-tools zoals Veo 3 niet alleen een groot potentieel biedt voor de contentproductiesector in veel winkels en bedrijven, maar ook een 'deur' opent die leidt tot virtuele gevolgen in het echte leven.

Dit roept vragen op als: "Kunnen volwassenen en kinderen onderscheid maken tussen door AI gegenereerde video's?" en "Welke invloed hebben deze aanstootgevende video's op de perceptie van kinderen?"

Het logo van Vietnam Television toegevoegd aan door AI gegenereerde content (Foto: Screenshot).

Niet alleen voor entertainmentdoeleinden waarschuwen veel experts voor de potentiële risico's van door AI gecreëerde 'afwijkende' content. Wanneer deze producten razendsnel via sociale media worden verspreid, kunnen ouderen of kinderen passief reageren en gemakkelijk negatief beïnvloed worden.

Socialemediaplatformen worden momenteel geconfronteerd met een grote uitdaging op het gebied van censuur van inhoud. Met slechts een paar eenvoudige stappen kan iedereen namelijk een reeks video's maken met afwijkende inhoud, die zelfs aanstootgevend, pervers of illegaal gedrag promoten.

Niet alleen vormt het een risico met betrekking tot de inhoud, maar ook de toegang tot en het gebruik van Veo 3 in Vietnam brengt veel gevolgen met zich mee. Omdat Google deze tool niet officieel ondersteunt op de binnenlandse markt, en de kosten hoog zijn ($ 20 per maand voor een Pro-account, $ 250 per maand voor een Ultra-account), hebben veel technologieliefhebbers manieren gevonden om de "barrière te slechten" door VPN te gebruiken, zwevende accounts te kopen of valse informatie te verstrekken.

Veel van hen zijn het slachtoffer geworden van trucs als het hoeden van kippen, zoals het adverteren van goedkope Veo 3-accounts, die ze gratis kunnen gebruiken en onbeperkte mogelijkheden bieden.

Berichten met uitnodigingen om goedkope Veo 3-accounts te kopen overspoelen Vietnamese sociale netwerken (schermafbeelding).

Veel criminelen hebben misbruik gemaakt van de noodzaak om toegang te krijgen tot Veo 3 om op te lichten. Ze vroegen kopers eerst geld over te maken en vervolgens snel te 'verdwijnen' zonder een spoor achter te laten.

Opvallend is dat sommige mensen zelfs akkoord gaan met het registreren van Veo 3-accounts met behulp van het Gmail-adres van de klant tegen een "supervoordelige" prijs. Dit is echter in feite een manier om misbruik te maken van een maas in het beleid van Google, waardoor het account mogelijk permanent geblokkeerd kan worden, wat betekent dat de toegang tot e-mails, documenten en alle bijbehorende persoonlijke gegevens verloren gaat.

Technologie is niet gebrekkig

Sterker nog, geen enkel AI-platform is ontworpen om negatieve content te creëren of misbruik te bevorderen. Alle gevolgen worden bepaald door hoe mensen de tool gebruiken, wat betekent dat het bewustzijn en de verantwoordelijkheid van de gebruiker doorslaggevend zijn.

Dr. Nguyen Van Son, docent aan de Faculteit Informatietechnologie van de Technische Universiteit (Nationale Universiteit van Vietnam, Hanoi ), merkte op: "Ik waardeer de positieve waarden die kunstmatige intelligentie met zich meebrengt enorm. Mits goed gebruikt, kan AI veel praktische bijdragen leveren aan de samenleving en de gemeenschap."

Volgens hem ontstaan ​​er echter problemen wanneer technologie in handen valt van mensen met ongezonde motieven. "Op dat moment wordt AI een effectief instrument om negatief gedrag te ondersteunen en zelfs de negatieve impact op de samenleving te versterken", waarschuwde Dr. Son.

Hij riep gebruikers, en dan met name jongeren, op om proactief hun bewustzijn en verantwoordelijkheidsgevoel te vergroten bij de benadering en toepassing van AI. Ze wilden kwalitatieve, beschaafde content creëren in plaats van rommelige, aanstootgevende producten te verspreiden.

Dr. Nguyen Van Son gelooft dat educatie de sleutel is tot het beperken van ethische schendingen bij het gebruik van AI (Foto: personage aangeleverd).

Daarnaast is Dr. Nguyen Van Son van mening dat een van de langetermijnstrategieën om ethische schendingen bij het gebruik van AI te beperken, een educatieve benadering is. Volgens hem zijn bewustwording, het helpen van gebruikers om hun persoonlijke verantwoordelijkheid te begrijpen en het bouwen van een ethische basis bij het gebruik van technologie sleutelfactoren die bijdragen aan de vorming van een beschaafde digitale gemeenschap.

Veel deskundigen waarschuwen niet alleen voor spaminhoud, maar wijzen ook herhaaldelijk op de mogelijke gevaren van AI-tools. Denk hierbij met name aan de mogelijkheid om video's te maken, die een bron van grootschalige verspreiding van desinformatie kunnen worden.

"De techindustrie heeft jarenlang te maken gehad met de gevaren van deepfakes. Maar de opkomst van steeds geavanceerdere AI-videotools is een duidelijke waarschuwing dat het reguleren van content die door AI, en vervolgens door AGI, wordt gegenereerd, alleen maar moeilijker zal worden", waarschuwde Connor Leahy, CEO van Conjecture.

Mevrouw Nguyen Thi Trang, CEO van Pisa Solutions LLC, deelde deze mening en benadrukte het belang van kritisch denken in de context van steeds betere AI.

"We zijn niet alleen gebruikers van AI, maar ook ontvangers van een breed scala aan door AI gegenereerde content. Naast het ethisch verantwoord gebruiken van tools, moet iedereen oefenen met het vermogen om informatie vanuit meerdere perspectieven te bekijken. Er zijn momenteel namelijk veel video's gemaakt door AI die authentiek lijken, maar stiekem valse content promoten", aldus mevrouw Trang.

Bron: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm