Deepfakes florerer – ingen er trygge fra AI-etterligningstriks

Å være et «lånt ansikt» for å selge varer

«Uansett hvordan det opprinnelige kneet er, bare bruk metoden vår. Vi garanterer at det vil bli betydelig bedre innen 7 dager. Hvis det er fullstendig ineffektivt, er jeg villig til å kompensere 1 milliard VND som en oppriktig unnskyldning. Hvis du virkelig ikke ser noen effekt, forplikter vi oss til 100 % refusjon, og jeg er selv villig til å kompensere 1 milliard VND. Ikke alle tør å forplikte seg slik», er det en berømt kvinnelig sanger som reklamerer for et massasjekremprodukt for leddsmerter. Det er imidlertid verdt å nevne at denne annonsen ble laget utelukkende av AI.

Reklamevideoen ovenfor ble brukt av en TikTok-konto kalt LShop, der bildet, stemmen og kroppsspråket til den kvinnelige sangeren ble brukt på en realistisk måte som ikke kan oppdages uten nøye observasjon. Denne kontoen har nesten 9000 følgere, 67 000 likerklikk, og hvert klipp har tusenvis av visninger. Bare « reklamevideoen », som låner bildet av den kvinnelige sangeren ovenfor, tiltrakk seg mer enn 1000 likerklikk og nesten 100 kommentarer om kjøp.

Med det samme massasjekremproduktet «produserte» salgskanalene også en annen deepfake-versjon, denne gangen en lege. I klippet lovet karakteren bestemt: «Jeg er den mest prestisjefylte ortopediske legen i Hanoi , og jeg garanterer at selv den mest alvorlige meniskskaden kan kureres fullstendig på bare tre dager. Denne gelen er sertifisert av den mest prestisjefylte ortopediske foreningen i Vietnam.» Denne linjen ble gjenskapt av AI for en rekke andre «leger», noe som gjør det enkelt for seere å forveksle den med ekte.

Klippet fikk nesten 4000 likerklikk og mer enn 120 kommentarer, men da vi sendte en tekstmelding for å prøve å bestille, svarte ikke kontoen, og den samhandlet heller ikke med seerne i kommentarfeltet. Produktet ble bare liggende i handlekurven for direkte kjøp. Det er verdt å merke seg at produktet som var til salgs kom fra Kina, og produktinformasjonen var svært vag.

Fra sangere og kjendiser til leger har alle blitt etterlignet av salgskanaler som lager AI-klipp for å selge helserelaterte produkter.

Deepfake-trikset stopper ikke der, det har også spredt seg til spirituelle spørsmål. En TikTok-konto kalt Phat Phap NM repostet ikke bare forelesningene til Mester TPH, men brukte også AI-teknologi til å lage bilder av «mesteren» som solgte produkter som Bodhi-blader og agarved-armbånd.

Da seerne la igjen kommentarer der de ba om å kjøpe, svarte kanalen: «Hvis ting ikke er som forventet, gå til visningsdelen på kontoen min og velg det du trenger, ikke vær gjerrig på småpengene og ignorer de større.» Rett etterpå måtte denne munken selv si ifra for å presisere at han aldri hadde annonsert for eller vært involvert i slike produkter.

Grensen mellom kreativitet og krenkelse

Cybersikkerhetsekspert Ngo Minh Hieu (Hieu PC) fra National Cyber Security Monitoring Center (NCSC) sa at falske reklameklipp som spres på sosiale nettverk hovedsakelig lages med Deepfake-programvare. Denne programvaren er ikke uvanlig, mange tjenester tilbyr til og med pakker med lave kostnader og svært enkle operasjoner. Selv om det finnes positive bruksområder innen digital innholdsproduksjon og medieproduksjon, ligger problemet ifølge Hieu i det faktum at noen har utnyttet denne teknologien til negative formål som svindel, identitetsforfalskning, spredning av falske nyheter eller ærekrenkelse av andre gjennom videoer som ser ekte ut.

Hieu ga også noen tegn for å identifisere deepfake-klipp, som for eksempel at ansiktsuttrykk i videoen er noe stive, munnformer og bevegelser som ikke samsvarer med dialogen ... Hieu advarte om at det har vært mer alvorlige situasjoner der AI har blitt brukt til å sette inn ofrenes ansikter i sensitive videoer med det formål å skremme, tvang og tjene penger.

Ifølge advokat Tran Duc Phuong, Ho Chi Minh City Bar Association, er det å bruke AI til å lage bilder av kjendiser (eller bestemte individer) uten deres samtykke et brudd på personlige rettigheter, nærmere bestemt retten til et bilde, som fastsatt i artikkel 32 i sivilloven av 2015. Loven fastsetter: «Personer har rett til sitt eget bilde. Bruken av et individs bilde må avtales av den personen. Bruk av et bilde til kommersielle formål må kompenseres til personen hvis bilde brukes, med mindre partene har en annen avtale.»

Hvis en kontoinnehaver på et sosialt nettverk bruker AI-gjenskapte bilder fra ekte bilder, gamle videoer osv. til reklame- eller salgsformål uten tillatelse, har vedkommende brutt loven. Hvis bruken av et bilde bryter med bestemmelsene i denne artikkelen, har personen med bildet rett til å be retten om å treffe en avgjørelse som tvinger overtrederen, relevante etater, organisasjoner og enkeltpersoner til å trekke tilbake, ødelegge og avslutte bruken av bildet, kompensere for skader og iverksette andre tiltak i henhold til lovens bestemmelser.

Kommentar (0)