Kommentator Anh Quân roper om hjelp.

Kommentator Anh Quân uttalte at bildet hans og AI-teknologien ble utnyttet av svindlere for å reklamere for gamblingaktiviteter.

Kommentator Anh Quân. Foto: FBNV .

Bruken av AI-genererte bilder for å etterligne kjendiser blir stadig mer utbredt, og påvirker innflytelsesrike personer og deres fans. Utover artister i underholdningsbransjen har dette problemet spredt seg til mange andre felt. Nylig måtte kommentator Anh Quân, en av de mest populære og innflytelsesrike sosiale mediepersonlighetene i Vietnam, be om hjelp på nettet etter å ha blitt etterlignet av svindlere som brukte kunstig intelligens.

«Ikke tro det, det er svindel. Jeg har mottatt mange meldinger om folk som utgir seg for å være meg, både ansikt og stemme, ved hjelp av AI. Jeg overholder alltid loven og ville aldri fremme ulovlige aktiviteter. Jeg håper alle som ser dette vil rapportere det eller bare bla forbi, for det er definitivt ikke meg», skrev Anh Quân på sin offisielle Facebook-side, som har over 1,3 millioner følgere.

Et advarende innlegg av kommentator Anh Quân. Foto: FBNV.

Vedlagt innlegget lastet kommentatoren opp bilder av falske videoer som feilaktig koblet ham til annonser for fotballtipping, noe som førte til ulovlige spillsider.

Som en offentlig person som produserer en enorm mengde video, har de AI-genererte falske videoene til kommentator Anh Quân en høy grad av autentisitet. Med denne typen produksjon, jo mer massive og detaljerte inndataene er, desto mer realistisk og vanskeligere er det å skille den resulterende forfalskningen fra den ekte tingen.

Verktøy for ansikts- og stemmeforfalskning er nå offentlig tilgjengelige og enkle å bruke. I motsetning til deepfake-løsninger fra tidligere år, som krevde massive prosesseringsressurser og komplekse algoritmer, er moderne AI-programvare mye vanligere og billigere.

Før kommentator Anh Quân uttalte en rekke kjente artister som Đức Phúc, Cát Tường, Đàm Thu Trang, Mỹ Tâm, Hồ Ngọc Hà og TV-programleder Hoài Anh… seg samtidig for å advare om at kunstig intelligens utgir seg for å være deres bilder og stemmer i falske reklameklipp. Dette problemet, til tross for at det har eksistert i mange år, mangler fortsatt en komplett løsning, og fanger både artister og seere i en ond sirkel av skadelig informasjon.

Kilde: https://znews.vn/blv-anh-quan-keu-cuu-post1621255.html