Bruk av AI til å utgi seg for funksjonshemmede for profitt: Vær oppmerksom på ny svindel

Dette er skurker som bruker kunstig intelligens (KI) til å redigere ansiktene og kroppene til vanlige mennesker, gjøre dem om til funksjonshemmede, og deretter lage triste historier for å selge produkter eller be om støtte. Det eneste målet er å utnytte samfunnets medfølelse for ulovlig profitt.

Bilde av kvinne redigert med AI-teknologi for å se ut som en funksjonshemmet person på TikTok-kanalen NL

Sofistikerte triks

Et typisk tilfelle som forårsaket offentlig harme var TikTok-kanalen NL, som publiserte en serie videoer om en kvinne med begge armene amputert, som prøvde å selge produkter på nett for å forsørge sine små barn. I klippene dukket kvinnen opp i et enkelt rom, iført enkle klær, og brukte sin amputerte arm til å introdusere produkter, noe som gjorde seerne emosjonelle og sympatiske. Mange nølte ikke med å klikke for å følge, dele bredt og til og med bestille produkter for å hjelpe moren med å overvinne vanskeligheter. Men da videoene gikk viralt, innså nettsamfunnet at dette faktisk var bildet av en vanlig ekspeditrise som hadde blitt redigert med AI-teknologi for å se ut som en ekte funksjonshemmet person.

Trikset med å appellere til medlidenhet har blitt en felle som gjør at mange mennesker er villige til å overføre penger eller legge inn bestillinger fordi de tror de hjelper en svak og vanskeligstilt person. Herr Dang Minh Quang, på Ngoc Lam-gaten i Bo De Ward ( Hanoi ), delte: «Moren min trodde på klippet av en kvinne med en amputert arm som solgte varer, så hun syntes synd på det og bestilte noen produkter som ble solgt av denne personen. Da hun fikk vite sannheten, at den funksjonshemmede personen bare var et bilde skapt av AI, ble hun veldig lei seg og følte seg fornærmet.»

Quangs mors historie er ikke unik. Hundrevis av andre har blitt lurt på lignende måte. Når vennlighet blir utnyttet, mister folk gradvis troen og blir nølende med ekte rop om hjelp. Og den smertefulle konsekvensen er at de sårbare virkelig blir alvorlig skadet. På sin personlige Facebook-side delte Nguyen Sin saken om Tran Thi Nga (36 år gammel i Phu Tho -provinsen) – eier av kanalen «Nga Tic Cuc» som er funksjonshemmet (på slutten av 2024, på grunn av akutt myokarditt, ble hun tvunget til å amputere både armer og ben for å redde livet), kjent av mange for regelmessig å inspirere med sin optimistiske livsvilje. Etter at mange tilfeller av å utgi seg for å være funksjonshemmede ved hjelp av kunstig intelligens dukket opp, ble imidlertid Nga mistenkt for å bruke kunstig intelligens til å utgi seg for å være funksjonshemmede.

I nylige direktesendinger ble fru Nga mange ganger opprørt da noen brukere på sosiale medier gjentatte ganger ba henne om å «rekke opp hånden» eller «krype» for å bevise at hun virkelig var funksjonshemmet. Disse urimelige og grusomme forespørslene såret henne dypt. Historien om «Aktive Nga» er et hjerteskjærende vitnesbyrd om hvor skadelig teknologimisbruk kan være.

AI-genererte ferdigheter til gjenkjenning av falskt innhold

Ifølge departementet for offentlig sikkerhet registrerte Vietnam i 2024 mer enn 6000 tilfeller av nettsvindel, noe som forårsaket et anslått tap på rundt 12 000 milliarder VND. I løpet av bare åtte måneder i 2025 ble det også oppdaget nesten 1500 tilfeller av nettsvindel. Dette tallet gjenspeiler tydelig det farlige nivået av høyteknologisk kriminalitet i sammenheng med at landet vårt har mer enn 78 millioner internettbrukere og 72 millioner brukere av sosiale nettverk. Cyberspace er i ferd med å bli et fruktbart område for stadig mer sofistikerte svindeltriks, der bruk av AI for å lage falskt innhold er den største trusselen i dag.

Stilt overfor denne alarmerende virkeligheten anbefaler myndigheter og cybersikkerhetseksperter at folk må tilegne seg kunnskap og ferdigheter for å identifisere falskt innhold. Visesekretær i ungdomsforbundet til Long Bien Ward-politiet (Hanoi), Nguyen Nhat Ha, bemerket at folk regelmessig bør overvåke offisielle informasjonskilder og proaktivt oppdatere kunnskapen sin om teknologi og nye former for svindel. Spesielt må de alltid være årvåkne og huske de grunnleggende prinsippene, som er å nøye verifisere informasjonskilder, ikke gi personlig informasjon til ubekreftede kilder, ikke få tilgang til merkelige lenker og ikke overføre penger til ubekreftede kontoer.

For å identifisere videoer generert av kunstig intelligens, bør brukere ifølge cybersikkerhetseksperter nøye observere bildedetaljer, ansiktsbevegelser, lemmer eller lyder. Tegn som tomme øyne, unaturlige bevegelser, forsinket tale eller uensartede leppebevegelser er ofte tegn på Deepfake-teknologi.

I tillegg er det enkle måter å evaluere pålitelighet på å sjekke informasjonen som legges ut av kanalen, lese kommentarer og se aktivitetshistorikken. I tillegg til dette må brukerne danne seg en vane med å bekrefte før de tror på den. Uansett hvor emosjonell en video er, bør den ikke deles eller støttes i all hast.

Eksperter oppfordret også sosiale medieplattformer til å styrke sensuren, identifisere innhold som bruker AI til å utgi seg for å være funksjonshemmede, og håndtere kontoer som krenker regelverket strengt. Myndighetene må også snart utstede klare regler for bruk av AI-bilder og -innhold, for å sikre at teknologi ikke blir et verktøy for uetisk oppførsel fra ondsinnede aktører.

Kommentar (0)