Akut behov av att kontrollera AI-innehåll

Kriterier måste utfärdas för att begränsa det innehåll som användare får skapa med AI, vilket tvingar fram tydlig märkning.

Bara under de senaste åren har artificiell intelligens (AI) utvecklats och kontinuerligt förbättrats i en svindlande hastighet och blivit ett djupt stödverktyg inom många områden. Veo3 – en videoskapande teknik med AI som nyligen utvecklats av Google DeepMind – kan skapa verklighetstrogna bilder. Förutom de verktyg som stöder användarna, innebär detta verktyg också utmaningen att det utnyttjas av skurkar för bedrägerier.

Svårt att skilja mellan äkta och falskt

Enligt teknikvärlden har Veo3 "väckt uppståndelse" globalt på grund av sin AI-videoskapande funktion med en realismnivå som överträffar alla tidigare verktyg. Till skillnad från OpenAI:s Sora – som bara sticker ut bildmässigt men är begränsad ljudmässigt – synkroniserar Veo3 bilder, omgivningsljud och dialog perfekt. Från fotsteg och vind som blåser till mänskliga röster och omgivande effekter kombineras allt smidigt och når en nivå av naturtrohet som gör det svårt för användare att skilja mellan riktiga videor och de som skapats av AI.

I Vietnam skapade Veo3 snabbt en feber på sociala nätverk som TikTok, Facebook och YouTube Shorts. En serie videor med hashtaggen #veo3 delades i en svindlande hastighet och lockade miljontals visningar och hundratusentals interaktioner. Många klipp skapade av AI överraskade online-communityn på grund av sin otroliga autenticitet. Till exempel nådde en 8-sekunders video med en enkel dialog 5 miljoner visningar och mer än 308 000 gilla-markeringar. En annan video som visar en äldre kvinna som steker ägg, skapad helt av AI, nådde också mer än 2,6 miljoner visningar och mer än 104 000 gilla-markeringar.

Herr Tran Vinh Khang – en kontorsarbetare i distrikt 1 i Ho Chi Minh-staden – berättade att han knappt kunde skilja mellan äkta och falskt eftersom realismen var för hög. ”Jag såg en video av en fiskförsäljare som pratade med kunder på marknaden och trodde att den var verklig eftersom bilden var så skarp. Sättet han viftade med handen, höjde ögonbrynen, solljuset som sken på hans ansikte, allt var så naturligt att det var otroligt att det skapades av AI”, sa herr Khang.

Bilder i filmen skapad av Veo3, användare har svårt att skilja mellan äkta och falska

Även om hon erkände att hon var imponerad uttryckte Nguyen Mai Anh (bosatt i Ho Chi Minh-staden) oro över informationssäkerheten. "Videon som skapats av Veo3 är så realistisk att den får mig att känna mig osäker. Om skurkar använder den här tekniken för att skapa videor för att förtala, förtala eller förfalska bevis, kommer konsekvenserna att bli mycket allvarliga", uttryckte Anh.

Många vietnamesiska användare är särskilt intresserade av hur man får tillgång till och använder Veo3. Veo3 har dock bara officiellt lanserats av Google på den amerikanska marknaden, genom Google AI Ultra-prenumerationspaketet med en avgift på 249,99 USD/månad. Inför denna begränsning har den vietnamesiska onlinegemenskapen hittat ett sätt att "övervinna barriären" för att uppleva det. Många delar tips om hur man använder VPN för att ändra IP till USA, och därifrån registrerar man ett Google-konto i den stödda regionen för att aktivera och använda Veo3 som en lokal användare. Enligt säkerhetsexperter är detta också ett kryphål som skurkar kan utnyttja för att göra skumma saker.

Rättslig ram som behövs för AI

Le Hong Duc, grundare av OneAds Digital Company Limited, sa att AI-genererade produkter som videor, bilder eller röster närmar sig en häpnadsväckande nivå av realism och till och med kan tas direkt i produktion och kommersialisering. Denna explosion medför tydliga fördelar i form av kostnad och tid, men kan utnyttjas för att sprida falsk information eller orsaka förvirring hos allmänheten. I samband med alltmer komplexa AI-modeller blir innehållskontroll brådskande, särskilt när tekniken vida har överträffat hastigheten på att uppdatera gällande lagar.

Därför föreslog Duc att det är brådskande att utveckla en specialiserad lag för AI, som tydligt definierar ansvaret för dem som skapar och delar AI-innehåll. Handlingar som sprider falskt och giftigt innehåll måste sanktioneras och hanteras strikt. Samtidigt måste myndigheterna utfärda kriterier för att begränsa det innehåll som användare får skapa med AI och kräva tydliga etiketter. Om det inte implementeras korrekt måste användarna bära det juridiska ansvaret och kompensera för eventuella skador som orsakats. "Att utfärda en separat rättslig ram för AI är oerhört brådskande för att kontrollera denna snabbt utvecklande teknik, bidra till att upprätthålla en hälsosam digital miljö och förhindra konsekvenser som bedrägerier, etiska kränkningar eller handlingar som förolämpar andra", betonade Duc.

Utöver juridiska problem delade en informationssäkerhetsexpert med sig av att den enastående utvecklingen av Veo3 också väcker oro bland innehållsskapare, särskilt inom områden som film, tv och animation, som riskerar att gradvis ersättas av AI-teknik, vilket utgör en stor utmaning för att skydda karriärer och upphovsrätt inom den kreativa industrin. "Det är nödvändigt att snart lägga till regler om immateriella rättigheter för AI-genererat innehåll, eftersom AI nu kan producera mycket realistiska produkter. Annars riskerar skaparna att förlora sina jobb på grund av vågen av virtuella verk som översvämmar marknaden", sa experten.

Se upp för tjänster som utger sig för att vara personifierade

Sedan Veo3 exploderade har många konton som påstår sig vara "AI-experter" på sociala medieplattformar också börjat dela demovideor, instruktioner om hur man får tillgång till Veo3 eller säljer konton och supporttjänster till priser från 200 000 till 300 000 VND. Vissa användare sa att de hade lyckats få tillgång till och provat det, men att inte alla upplevde det. Le Hong Duc varnade användare för att vara försiktiga med falska eller inofficiella tjänster och rekommenderade att man väntar på att Google officiellt driftsätter Veo3 på den vietnamesiska marknaden för att undvika ekonomiskt bedrägeri, datastöld eller att kontrollen över Google-konton tas över.

Källa: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm