Dringende behoefte aan controle over AI-inhoud

Er moeten criteria worden opgesteld om de inhoud die gebruikers met AI mogen creëren te beperken, en om duidelijke etikettering af te dwingen

De afgelopen jaren heeft kunstmatige intelligentie (AI) zich razendsnel ontwikkeld en voortdurend verbeterd, waardoor het een waardevolle ondersteuningstool is geworden op vele gebieden. Veo3, een videotechnologie die gebruikmaakt van AI en onlangs is ontwikkeld door Google DeepMind, kan levensechte beelden creëren. Naast de tools die gebruikers ondersteunen, brengt deze tool ook het risico met zich mee dat criminelen misbruik van deze tools maken voor fraude.

Moeilijk om echt van nep te onderscheiden

Volgens de technologiewereld heeft Veo3 wereldwijd "opschudding veroorzaakt" vanwege de AI-videocreatiefunctie met een realisme dat elke eerdere tool overtreft. In tegenstelling tot OpenAI's Sora – dat alleen qua beeld uitblinkt, maar beperkt is qua geluid – synchroniseert Veo3 beelden, omgevingsgeluiden en dialogen perfect. Van voetstappen en wind tot menselijke stemmen en omgevingseffecten, alles wordt vloeiend gecombineerd en bereikt een levensecht niveau, waardoor het voor gebruikers moeilijk is om onderscheid te maken tussen echte video's en video's die door AI zijn gemaakt.

In Vietnam veroorzaakte Veo3 snel een hype op sociale netwerken zoals TikTok, Facebook en YouTube Shorts. Een reeks video's met de hashtag #veo3 werd razendsnel gedeeld en trok miljoenen views en honderdduizenden interacties. Veel clips, gemaakt door AI, verrasten de online community met hun ongelooflijke authenticiteit. Zo bereikte een video van 8 seconden met een simpele dialoog 5 miljoen views en meer dan 308.000 likes. Een andere video, volledig gemaakt door AI, waarin een oudere vrouw eieren bakt, bereikte ook meer dan 2,6 miljoen views en meer dan 104.000 likes.

De heer Tran Vinh Khang, een kantoormedewerker in District 1 van Ho Chi Minhstad, vertelde dat hij nauwelijks onderscheid kon maken tussen echt en nep, omdat het realismeniveau te hoog was. "Ik zag een video van een visverkoper die met klanten op de markt praatte en dacht dat het echt was, omdat het beeld zo scherp was. De manier waarop hij met zijn hand zwaaide, zijn wenkbrauwen optrok, het zonlicht op zijn gezicht scheen, alles was zo natuurlijk dat het ongelooflijk was dat het door AI was gemaakt", aldus de heer Khang.

Afbeeldingen in de film gemaakt door Veo3, gebruikers vinden het moeilijk om onderscheid te maken tussen echt en nep

Hoewel ze toegaf onder de indruk te zijn, uitte mevrouw Nguyen Mai Anh (woonachtig in Ho Chi Minhstad) haar zorgen over informatiebeveiliging. "De video van Veo3 is zo realistisch dat ik me er onzeker door voel. Als boeven deze technologie gebruiken om video's te maken om te belasteren, te bezoedelen of bewijsmateriaal te vervalsen, zullen de gevolgen zeer ernstig zijn", aldus mevrouw Anh.

Veel Vietnamese gebruikers zijn vooral geïnteresseerd in hoe ze Veo3 kunnen gebruiken. Veo3 is echter alleen officieel door Google op de Amerikaanse markt geïntroduceerd via het Google AI Ultra-abonnement, dat $ 249,99 per maand kost. Geconfronteerd met deze beperking heeft de Vietnamese online community een manier gevonden om de drempel te overschrijden. Veel mensen delen tips over het gebruik van VPN om hun IP-adres naar de VS te wijzigen en registreren vervolgens een Google-account in de ondersteunde regio om Veo3 te activeren en te gebruiken als een lokale gebruiker. Volgens beveiligingsexperts is dit ook een zwakke plek die criminelen kunnen misbruiken om duistere praktijken uit te voeren.

Juridisch kader nodig voor AI

De heer Le Hong Duc, oprichter van OneAds Digital Company Limited, stelde dat door AI gegenereerde producten zoals video's, afbeeldingen of stemmen een verbluffend niveau van realisme naderen en zelfs direct in productie en commercialisering kunnen worden genomen. Deze explosie brengt duidelijke voordelen met zich mee in termen van kosten en tijd, maar kan worden uitgebuit om valse informatie te verspreiden of verwarring bij het publiek te zaaien. In de context van steeds complexere AI-modellen wordt contentcontrole urgent, vooral nu de technologie de snelheid van het actualiseren van de huidige wetgeving ver heeft ingehaald.

Daarom stelde de heer Duc voor dat er dringend een gespecialiseerde wet voor AI moet worden ontwikkeld, die de verantwoordelijkheden van degenen die AI-content creëren en delen duidelijk definieert. Het verspreiden van valse en schadelijke content moet worden bestraft en streng worden aangepakt. Tegelijkertijd moeten autoriteiten criteria opstellen om de content die gebruikers met AI mogen creëren te beperken en duidelijke labels vereisen. Indien niet correct geïmplementeerd, moeten gebruikers de juridische verantwoordelijkheid dragen en de veroorzaakte schade vergoeden. "Het opstellen van een apart wettelijk kader voor AI is uiterst urgent om deze zich snel ontwikkelende technologie te beheersen en bij te dragen aan het behoud van een gezonde digitale omgeving en om gevolgen zoals fraude, ethische schendingen of beledigende handelingen te voorkomen", benadrukte de heer Duc.

Naast juridische zorgen gaf een expert op het gebied van informatiebeveiliging aan dat de uitstekende ontwikkeling van Veo3 ook zorgen oproept bij contentmakers, met name in sectoren zoals film, televisie en animatie. Deze sectoren lopen het risico geleidelijk te worden vervangen door AI-technologie, wat een grote uitdaging vormt voor de bescherming van carrières en auteursrechten in de creatieve industrie. "Het is noodzakelijk om snel regelgeving toe te voegen over intellectuele-eigendomsrechten voor door AI gegenereerde content, omdat AI nu zeer realistische producten kan produceren. Anders lopen makers het risico hun baan te verliezen door de golf van virtuele werken die de markt overspoelt", aldus de expert.

Pas op voor het imiteren van diensten

Sinds de explosieve groei van Veo3 zijn veel accounts op socialemediaplatforms die zich voordoen als "AI-experts" ook begonnen met het delen van demovideo's, instructies over hoe je toegang krijgt tot Veo3 of het verkopen van accounts en ondersteunende diensten voor prijzen variërend van 200.000 tot 300.000 VND. Sommige gebruikers gaven aan dat ze het succesvol hadden geprobeerd, maar niet iedereen kon het gebruiken. De heer Le Hong Duc waarschuwde gebruikers voorzichtig te zijn met neppe of onofficiële diensten en raadde aan te wachten tot Google Veo3 officieel op de Vietnamese markt zou implementeren om financiële fraude, gegevensdiefstal of overname van Google-accounts te voorkomen.

Bron: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm