Er is een dringende behoefte om AI-content te controleren.

Er moeten criteria worden vastgesteld om de inhoud te beperken die gebruikers met behulp van AI mogen creëren, en duidelijke labeling moet verplicht worden gesteld.

De afgelopen jaren heeft kunstmatige intelligentie (AI) zich in een duizelingwekkend tempo ontwikkeld en verbeterd, waardoor het een krachtig instrument is geworden dat vele vakgebieden ondersteunt. Veo3 – een door Google DeepMind ontwikkelde AI-gestuurde technologie voor het maken van video's – is in staat om ongelooflijk levensechte beelden te produceren. Naast de voordelen voor de gebruiker brengt deze tool echter ook een risico met zich mee, namelijk het risico dat kwaadwillenden er misbruik van maken voor frauduleuze doeleinden.

Het is moeilijk om onderscheid te maken tussen echt en nep.

Volgens tech-experts is Veo3 een wereldwijde sensatie geworden dankzij de mogelijkheden van AI-gestuurde videocreatie, die een veel hoger realisme bieden dan voorheen beschikbare tools. In tegenstelling tot OpenAI's Sora, dat uitblinkt in beeld maar beperkt is in geluid, synchroniseert Veo3 beelden, omgevingsgeluiden en dialogen naadloos. Van voetstappen en wind tot gesproken woorden en omgevingsgeluiden, alles vloeit naadloos in elkaar over en bereikt een levensecht niveau waardoor het voor gebruikers moeilijk is om onderscheid te maken tussen echte video's en video's die door AI zijn gemaakt.

In Vietnam werd Veo3 al snel een sensatie op sociale mediaplatformen zoals TikTok, Facebook en YouTube Shorts. Talloze video's met de hashtag #veo3 werden razendsnel gedeeld en trokken miljoenen views en honderdduizenden interacties. Veel door AI gegenereerde clips verbaasden de online community met hun ongelooflijke realisme. Zo behaalde een video van 8 seconden met een simpele dialoog 5 miljoen views en meer dan 308.000 likes. Een andere video, volledig gemaakt door AI, waarin een oudere vrouw eieren bakt, behaalde ook meer dan 2,6 miljoen views en meer dan 104.000 likes.

De heer Tran Vinh Khang, een kantoormedewerker in district 1 van Ho Chi Minh-stad, vertelde dat hij door het extreme realisme nauwelijks onderscheid kon maken tussen echte en nepvideo's. "Ik zag een video van een visverkoper die met een klant op de markt praatte en dacht dat het echt was, omdat het beeld zo scherp was. De manier waarop hij zwaaide, zijn wenkbrauwen optrok, het zonlicht op zijn gezicht – alles was zo natuurlijk dat ik niet kon geloven dat het door AI was gemaakt," aldus de heer Khang.

De beelden in de video van Veo3 zijn voor gebruikers moeilijk te onderscheiden van echt en nep.

Hoewel ze haar bewondering uitte, maakte mevrouw Nguyen Mai Anh (een inwoner van Ho Chi Minh-stad) zich zorgen over de informatiebeveiliging. "De video's die Veo3 maakt, zijn zo realistisch dat ik me er ongemakkelijk bij voel. Als kwaadwillenden deze technologie gebruiken om lasterlijke video's te maken, smaad te verspreiden of bewijsmateriaal te vervalsen, zullen de gevolgen zeer ernstig zijn", aldus mevrouw Anh.

Veel Vietnamese gebruikers zijn met name geïnteresseerd in hoe ze toegang kunnen krijgen tot Veo3 en het kunnen gebruiken. Veo3 is echter officieel alleen door Google gelanceerd op de Amerikaanse markt, via het Google AI Ultra-abonnement voor $ 249,99 per maand. Geconfronteerd met deze beperking, heeft de Vietnamese online community gezocht naar manieren om de restricties te omzeilen en Veo3 te kunnen gebruiken. Veel mensen delen tips over het gebruik van VPN's om hun IP-adres te wijzigen naar een Amerikaans adres, waarna ze een Google-account in een ondersteunde regio registreren om Veo3 als lokale gebruiker te activeren en te gebruiken. Volgens beveiligingsexperts is dit echter ook een kwetsbaarheid die kwaadwillenden voor snode doeleinden zouden kunnen misbruiken.

Voor AI is een wettelijk kader nodig.

De heer Le Hong Duc, oprichter van OneAds Digital Co., Ltd., stelde dat door AI gegenereerde producten zoals video's, afbeeldingen en stemmen een verbazingwekkend niveau van realisme benaderen en zelfs direct in productie en commercialisering kunnen worden genomen. Deze ontwikkeling biedt duidelijke voordelen op het gebied van kosten en tijd, maar kan ook worden misbruikt om desinformatie te verspreiden of paniek onder de bevolking te zaaien. In de context van steeds complexere AI-modellen wordt contentcontrole cruciaal, vooral omdat de technologie de huidige wetswijzigingen ver heeft ingehaald.

Daarom stelde de heer Duc voor om dringend een specifieke wetgeving voor AI te ontwikkelen, waarin de verantwoordelijkheden van degenen die AI-content creëren en delen duidelijk worden vastgelegd. Het verspreiden van misleidende, schadelijke of giftige content moet streng worden bestraft. Tegelijkertijd moeten de autoriteiten criteria vaststellen die de content beperken die gebruikers met behulp van AI mogen creëren en duidelijke etikettering verplichten. Niet-naleving leidt tot juridische aansprakelijkheid en schadevergoeding. "Het is van cruciaal belang om een ​​apart wettelijk kader voor AI te creëren om deze snel ontwikkelende technologie te beheersen, bij te dragen aan een gezonde digitale omgeving en negatieve gevolgen zoals fraude, ethische schendingen of aanstootgevend gedrag te voorkomen", benadrukte de heer Duc.

Naast juridische zorgen deelde een expert op het gebied van informatiebeveiliging mee dat de snelle ontwikkeling van Veo3 ook zorgen baart bij contentmakers, met name in sectoren zoals film, televisie en animatie. Deze sectoren lopen het risico geleidelijk te worden vervangen door AI-technologie, wat een grote uitdaging vormt voor de bescherming van beroepen en auteursrechten in de creatieve industrie. "Regelgeving voor intellectuele eigendomsrechten op door AI gegenereerde content moet snel worden ingevoerd, omdat AI nu zeer realistische producten kan produceren. Anders lopen makers het risico hun baan te verliezen te midden van de golf van virtuele werken die de markt overspoelt", aldus de expert.

Pas op voor frauduleuze diensten.

Sinds de lancering van Veo3 zijn er op sociale media veel accounts verschenen die zich voordoen als "AI-experts". Zij delen demonstratievideo's en tutorials over hoe toegang te krijgen tot Veo3, en verkopen accounts en ondersteuningsdiensten voor 200.000 tot 300.000 VND. Sommige gebruikers meldden dat ze succesvol toegang hadden gekregen en het konden uitproberen, maar niet iedereen heeft het kunnen ervaren. De heer Le Hong Duc waarschuwde gebruikers om voorzichtig te zijn met frauduleuze of onofficiële diensten en adviseerde te wachten tot Google Veo3 officieel op de Vietnamese markt lanceert om financiële oplichting, datadiefstal of ongeautoriseerde toegang tot hun Google-accounts te voorkomen.

Bron: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm