Deepfakes är utbredda – Ingen är säker från AI-imitationsknep

Att vara "lånat ansikte" för att sälja varor

”Oavsett vad det ursprungliga knäproblemet är, använd bara vår metod. Vi garanterar att det förbättras avsevärt inom 7 dagar. Om det är helt ineffektivt är jag villig att kompensera 1 miljard VND som en uppriktig ursäkt. Om du verkligen inte ser någon effekt åtar vi oss 100 % återbetalning och jag är själv villig att kompensera 1 miljard VND. Det är inte alla som vågar göra det”, säger en känd kvinnlig sångerska som gör reklam för en massagekräm för ledvärk. Det är dock värt att nämna att annonsen skapades helt av AI.

Ovanstående reklamklipp användes av ett TikTok-konto som heter LShop, där sångarens bild, röst och kroppsspråk användes på ett realistiskt sätt som inte kan upptäckas utan noggrann observation. Kontot har nästan 9 000 följare, 67 000 gilla-markeringar och varje klipp har tusentals visningar. Bara "reklam" -videon som använder sångarens bild har lockat mer än 1 000 gilla-markeringar och nästan 100 kommentarer till köp.

Med samma massagekrämprodukt "producerade" försäljningskanalerna även en annan deepfake-version, den här gången en läkare. I klippet lovade karaktären bestämt: "Jag är den mest prestigefyllda ortopedläkaren i Hanoi och jag garanterar att även den allvarligaste meniskskadan kan botas helt på bara 3 dagar. Denna gel har certifierats av den mest prestigefyllda ortopediska föreningen i Vietnam". Denna linje återskapades av AI för en rad andra "läkare", vilket gör det enkelt för tittare att missta den för verklighet.

Klippet fick nästan 4 000 gilla-markeringar och fler än 120 kommentarer, men när vi skickade ett sms för att försöka beställa svarade kontot inte, och de interagerade inte heller med tittarna i kommentarsfältet, utan lämnade bara produkten i varukorgen för direktköp. Det är värt att notera att produkten som var till salu kom från Kina och att produktinformationen var mycket vag.

Från sångare och kändisar till läkare har alla imiterats av försäljningskanaler som skapar AI-klipp för att sälja hälsorelaterade produkter.

Deepfake-tricket slutar inte där, utan har även spridit sig till andliga frågor. Ett TikTok-konto vid namn Phat Phap NM publicerade inte bara Mästare TPH:s föreläsningar igen, utan använde även AI-teknik för att skapa bilder av "mästaren" som säljer produkter som bodhiblad och agarträarmband.

När tittarna lämnade kommentarer där de bad om att köpa, svarade kanalen: "Om det inte går som planerat, gå till displaysektionen på mitt konto och välj vad du behöver, var inte snål med småpengarna och ignorera de större." Omedelbart efter det var munken själv tvungen att tala ut för att förtydliga att han aldrig hade annonserat eller varit involverad i sådana produkter.

Gränsen mellan kreativitet och intrång

Cybersäkerhetsexperten Ngo Minh Hieu (Hieu PC) från National Cyber Security Monitoring Center (NCSC) sa att falska reklamklipp som sprids på sociala nätverk huvudsakligen skapas med Deepfake-programvara. Denna programvara är inte ovanlig, och många tjänster erbjuder till och med paket med låga kostnader och mycket enkla funktioner. Även om det finns positiva tillämpningar inom skapande av digitalt innehåll och medieproduktion, enligt Hieu, ligger problemet i det faktum att vissa personer har utnyttjat denna teknik för negativa syften som bedrägerier, identitetsförfalskning, spridning av falska nyheter eller förtalande av andra genom videor som ser verkliga ut.

Hieu gav också några tecken för att hjälpa till att identifiera deepfake-klipp, såsom att ansiktsuttrycken i videon var något stela, munformer och rörelser som inte matchade dialogen... Hieu varnade för att det har funnits allvarligare situationer där AI har använts för att infoga offers ansikten i känsliga videor i syfte att hota, tvångsbegära och profitera.

Enligt advokaten Tran Duc Phuong, Ho Chi Minh Citys advokatsamfund, är det ett brott mot personliga rättigheter att använda AI för att skapa bilder av kändisar (eller specifika individer) utan deras samtycke, särskilt rätten till bild, enligt artikel 32 i civillagen från 2015. Lagen föreskriver: "Individer har rätt till sin egen bild. Användningen av en individs bild måste kräva den personens samtycke. Användningen av en bild för kommersiella ändamål måste betala ersättning till den person vars bild används, såvida inte parterna har ett annat avtal."

Om en ägare av ett socialt nätverkskonto använder AI-återskapade bilder från riktiga foton, gamla videor etc. för reklam- eller försäljningsändamål utan tillstånd, har han eller hon brutit mot lagen. Om användningen av en bild bryter mot bestämmelserna i denna artikel har personen som har bilden rätt att begära att domstolen meddelar ett beslut som tvingar överträdaren, relevanta myndigheter, organisationer och individer att återkalla, förstöra och upphöra med användningen av bilden, ersätta för skador och vidta andra åtgärder i enlighet med lagens bestämmelser.

Kommentar (0)