Bara under de senaste åren har artificiell intelligens (AI) utvecklats och kontinuerligt förbättrats i en svindlande takt och blivit ett kraftfullt verktyg som stöder många områden. Veo3 – en AI-driven videoskapandeteknik som nyligen utvecklats av Google DeepMind – kan producera otroligt verklighetstrogna bilder. Men förutom sina användarfördelar innebär detta verktyg också en utmaning när det gäller risken att utnyttjas av illvilliga aktörer för bedrägliga syften.
Det är svårt att skilja mellan äkta och fejk.
Enligt teknikexperter har Veo3 blivit en global sensation tack vare sina AI-baserade videoskapandefunktioner, med en realismnivå som är vida överlägsen tidigare tillgängliga verktyg. Till skillnad från OpenAI:s Sora, som utmärker sig i visuella effekter men är begränsad i ljud, synkroniserar Veo3 sömlöst bilder, omgivande ljud och dialog. Från fotsteg och vind till talade ord och omgivande effekter smälter allt samman sömlöst och uppnår en nivå av naturtrohet som gör det svårt för användare att skilja mellan riktiga videor och de som skapats av AI.
I Vietnam blev Veo3 snabbt en sensation på sociala medieplattformar som TikTok, Facebook och YouTube Shorts. Många videor taggade #veo3 delades blixtsnabbt och lockade miljontals visningar och hundratusentals interaktioner. Många AI-genererade klipp förvånade online-communityn med sin otroliga realism. Till exempel fick en 8-sekunders video med en enkel dialograd 5 miljoner visningar och över 308 000 gilla-markeringar. En annan video, skapad helt av AI, som visar en äldre kvinna som steker ägg, uppnådde också över 2,6 miljoner visningar och mer än 104 000 gilla-markeringar.
Herr Tran Vinh Khang, en kontorsarbetare i distrikt 1 i Ho Chi Minh-staden, berättade att han knappt kunde skilja mellan riktiga och falska videor på grund av deras extrema realism. ”Jag såg en video av en fiskförsäljare som pratade med en kund på marknaden och trodde att den var verklig eftersom bilden var så skarp. Sättet han vinkade på, höjde på ögonbrynen, solljuset i hans ansikte – allt var så naturligt att jag inte kunde tro att det var skapat av AI”, sa herr Khang.
Bilderna i videon som skapats av Veo3 är svåra för användare att skilja mellan riktiga och falska.
Nguyen Mai Anh (bosatt i Ho Chi Minh-staden) uttryckte sin beundran och oro över informationssäkerheten. ”Videorna som skapats av Veo3 är så realistiska att jag känner mig illa till mods. Om illvilliga aktörer använder den här tekniken för att skapa ärekränkande videor, förtal eller fabricera bevis, kommer konsekvenserna att bli mycket allvarliga”, sa Anh.
Många vietnamesiska användare är särskilt intresserade av hur man får tillgång till och använder Veo3. Veo3 har dock bara officiellt lanserats av Google på den amerikanska marknaden, genom prenumerationspaketet Google AI Ultra till en kostnad av 249,99 dollar per månad. Inför denna begränsning har den vietnamesiska onlinegemenskapen sökt sätt att kringgå restriktionerna för att uppleva det. Många delar tips om hur man använder VPN för att ändra sin IP-adress till USA och därigenom registrera ett Google-konto i en region som stöds för att aktivera och använda Veo3 som en lokal användare. Enligt säkerhetsexperter är detta också en sårbarhet som illvilliga aktörer kan utnyttja för skumma syften.
Ett rättsligt ramverk behövs för AI.
Le Hong Duc, grundare av OneAds Digital Co., Ltd., uppgav att AI-genererade produkter som videor, bilder och röster närmar sig en häpnadsväckande nivå av realism och till och med kan tas direkt i produktion och kommersialisering. Denna boom medför tydliga fördelar i form av kostnad och tid, men den kan utnyttjas för att sprida felinformation eller orsaka panik hos allmänheten. I samband med alltmer komplexa AI-modeller blir innehållskontroll avgörande, särskilt eftersom tekniken har gått långt före nuvarande juridiska uppdateringar.
Därför föreslog Duc det akuta behovet av att utveckla en specialiserad lag för AI, som tydligt definierar ansvaret för dem som skapar och delar AI-innehåll. Handlingar som sprider vilseledande, skadligt eller giftigt innehåll måste bestraffas hårt. Samtidigt måste myndigheterna utfärda kriterier som begränsar det innehåll som användare får skapa med hjälp av AI och kräva tydlig märkning. Underlåtenhet att följa dessa kriterier kommer att leda till rättsligt ansvar och ersättning för skador. "Utfärdandet av en separat rättslig ram för AI är oerhört brådskande för att kontrollera denna snabbt utvecklande teknik, bidra till att upprätthålla en hälsosam digital miljö och förhindra negativa konsekvenser som bedrägerier, etiska kränkningar eller stötande beteende", betonade Duc.
Förutom juridiska problem delade en informationssäkerhetsexpert med sig av att den snabba utvecklingen av Veo3 också orsakar oro bland innehållsskapare, särskilt inom områden som film, tv och animation, som riskerar att gradvis ersättas av AI-teknik, vilket utgör en stor utmaning för att skydda yrken och upphovsrätt inom den kreativa industrin. "Regler om immateriella rättigheter för AI-genererat innehåll måste läggas till snart, eftersom AI nu kan producera mycket realistiska produkter. Annars riskerar skaparna att förlora sina jobb mitt i vågen av virtuella verk som översvämmar marknaden", sa experten.
Se upp för bedrägliga tjänster.
Sedan Veo3 lanserades har många konton på sociala medieplattformar som påstår sig vara "AI-experter" börjat dela demovideor, handledningar om hur man får tillgång till Veo3, eller sälja konton och supporttjänster för 200 000–300 000 VND. Vissa användare rapporterade att de lyckats få tillgång till och testat det, men inte alla fick uppleva det. Le Hong Duc varnade användare för att vara försiktiga med bedrägliga eller inofficiella tjänster och rekommenderade att man väntar på att Google officiellt lanserar Veo3 på den vietnamesiska marknaden för att undvika ekonomiska bedrägerier, datastöld eller obehörig åtkomst till sina Google-konton.
Källa: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm
Kommentar (0)