Från bilder, videor till AI-låtar: Se upp för "tornadon" av AI-innehåll på sociala nätverk

Artificiell intelligens (AI) utnyttjas i kommersiella aktiviteter online, från försäljning till välgörenhetsbedrägerier, vilket tvingar tillsynsmyndigheter och företag att snabbt hitta lösningar för att identifiera och kontrollera risker i en era av artificiellt innehåll.

Fler och fler bilder och videor som redigerats och lagts till av AI publiceras på sociala nätverk för att locka visningar - Foto: DUC THIEN

Om vanliga användare tidigare var tvungna att anlita Photoshop-experter för att skapa ett falskt foto, kan dagens AI, på mindre än 5 minuter och med några grundläggande färdigheter, en uppsättning falska foton dyka upp överallt.

När AI skapar bilder, videor, låtar... så verkliga att det är svårt att tro.

Hoan My (HCMC), en kommunikationsmedarbetare, surfar regelbundet på Facebook varje dag och säger att det publiceras mer och mer innehåll med hjälp av AI-verktyg av användare.

"Det finns många foton som publicerats av vänner eller gruppmedlemmar som är så verkliga att jag inte skulle kunna avgöra om AI användes om de inte hade sagt det. Ännu fler och fler videor, från animationer, fantasier till kortfilmer eller videor relaterade till en händelse som utspelar sig i verkligheten, skapas av AI-verktyg, men jag skulle inte kunna veta det", delade Ms. My.

Inte bara bilder och videor, även på det sociala nätverket YouTube finns det många låtar som framförs eller komponeras av "AI-sångare". Många användare är exalterade över den nya upplevelsen och tävlar om att dela den på sociala nätverk med sina vänner.

"Jag kan inte avgöra om det är en AI-sångare om det inte tillkännages. AI-innehåll blir alltmer utbrett i Vietnams cyberrymd. Vanliga användare som jag kommer förmodligen snart inte längre att veta vilket innehåll som kommer från riktiga människor, vilket innehåll som kommer från AI eller har AI-intervention", sa Khanh Ha (HCMC).

På senare tid har många sociala nätverksplattformar i Vietnam visat videor och livesändningar som säljer produkter från personer med funktionsnedsättning, vilket gör online-communityn mer sympatisk och delande.

Emellertid avslöjades senare många fall av online-communityn där AI användes för att förvandla vanliga människor till funktionshindrade. Syftet med detta trick är att utnyttja tittarnas medkänsla för att sälja varor eller utföra bedrägliga handlingar.

Många teknikexperter säger att sociala nätverk nyligen har sett ett ökande antal konton som publicerar säljvideor med bilder av funktionshindrade, sjuka eller missgynnade personer för att vädja om sympati. Verkligheten visar dock att mycket av detta innehåll skapas eller redigeras med AI-verktyg, vilket förvandlar vanliga människor till funktionshindrade personer i vinstsyfte eller för bedrägerisyfte.

Milko Radotic, vice vd med ansvar för Asien- Stillahavsområdet på iProov – världens ledande leverantör av biometrisk autentiseringsteknik – varnade för Tuoi Tre: ”Vår forskning visar att 99,9 % av deltagarna inte kan känna igen djupförfalskningar. Även dagens avancerade detekteringsverktyg möter många svårigheter.”

Öka motståndet för digitala användare

Dang Huu Son - biträdande direktör för Institutet för tillämpad forskning och utveckling av mänskliga resurser AIOV, grundare och VD för LovinBot AI Company - sa att sedan Google lanserade AI-tekniken Nano Banana, Veo 3; ByteDance lanserade Seedream 4, och innan dess OpenAI lanserade GPT Image, har AI-marknaden varit extremt livlig och har också medfört många konsekvenser.

”Tekniken har aldrig varit så tillgänglig som den är idag. Det här är extremt kraftfulla AI-modeller som kan ”kopiera ansikten” nästan 90 %, till och med 99 % jämfört med originalfotot”, kommenterade Son.

Om vanliga användare tidigare var tvungna att anlita Photoshop-experter för att skapa ett falskt foto, så kan dagens AI, på mindre än 5 minuter med några grundläggande färdigheter, en uppsättning falska foton, en falsk video som klipps och klistras in och har lagt till nyhetsliknande effekter, spridas i en svindlande hastighet.

"Falska nyheter upprepas många gånger, med hög densitet och enkel åtkomst, så ett stort antal människor som kommer i kontakt med dem varje dag kommer att tro att de är sanna. Därför behövs lösningar för att begränsa ovanstående problem", konstaterade Son.

Enligt Trinh Nguyen Thien Phuoc – teknikchef på Gianty Vietnam Company – behövs tre lager för att kunna urskilja AI-genererat innehåll: (1) användarverifieringsförmåga (tillsammans med gyllene regler); (2) tekniska verktyg som Content Credentials (C2PA), vattenstämplar (SynthID, AudioSeal) och deepfake-detektor; (3) samordningsprocess mellan berörda parter såsom: plattformar, nätverksoperatörer, banker...

I synnerhet måste den gyllene regeln göras mycket snabbt inom 30–60 sekunder, inklusive: klicka inte på konstiga länkar och gå till den officiella appen/webbplatsen för att verifiera; sluta omedelbart när du stöter på nyckelord som tvingar fram åtgärder (engångslösenord/pengaöverföring/brådskande).

Samtidigt bör användare kontrollera med två oberoende källor innan de tror; kontrollera datum, tid och sammanhang (gamla nyheter förklädda som nya); ring tillbaka till det officiella numret du hittat själv, använd inte numret som andra har gett; med bilder och videor kan användare söka tillbaka efter relaterade resultat...

Många experter anser att den mest grundläggande lösningen för att hantera vågen av falskt innehåll som skapas av AI är att öka allmänhetens medvetenhet. Istället för att bara fokusera på tekniska åtgärder är det nödvändigt att bygga utbildningsprogram, tävlingar eller simulera verkliga situationer för att hjälpa människor att ändra sina informationsintagsvanor.

För unga människor, särskilt studenter, kan en kombination av onlinetävlingar och mediekampanjer med kändisar eller akademiker skapa en naturlig attraktion, vilket hjälper dem att lära sig och uppleva samtidigt som de bemästrar färdigheterna att identifiera falska nyheter och falska videor. Samtidigt behöver äldre, särskilt på landsbygden, mer bekanta och intuitiva former som illustrerade broschyrer, instruktionsvideor eller visningar på kulturhus och i samhällsaktiviteter.

”En metod som är lämplig för varje grupp människor kommer att bidra till att skapa en solid, långsiktig medvetenhetsgrund, istället för att bara stanna vid kortsiktiga aktiviteter. Till exempel har vissa enheter utvecklat tillägg som kan installeras i Chrome-webbläsaren för att hjälpa användare att verifiera nyheter när de surfar på webben eller sociala nätverk...”, delade Dang Huu Son.

Använda AI för att upptäcka falsk AI

Nyligen har telefonbolaget Honor integrerat AI-funktionen Deepfake Detection i sin nyligen lanserade telefonlinje. Funktionen kan analysera bilder och röster på 3 sekunder för att varna för förfalskningar direkt i appar som Messenger, Zalo, Viber eller Google Meet, och bli en "digital sköld" som skyddar användare från högteknologiska bedrägerier.

Tidigare, i september 2025, tillkännagav MoMo sitt samarbete med iProov för att distribuera Dynamic Liveness-teknik för att verifiera att användare är verkliga, har korrekt identitet och är närvarande vid transaktionstillfället, vilket förhindrar bedrägerier med hjälp av deepfakes, falska videor eller bilder.

I högrisksektorer som finans är denna säkerhetsnivå avgörande för att förhindra bedrägerier, förhindra obehörig åtkomst och upprätthålla användarnas förtroende för plattformen.

Tillbaka till ämnet

DYGD

Källa: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm