Använda AI för att utge sig för funktionshindrade personer för vinst: Se upp för nytt bedrägeri

Det här är skurkar som använder artificiell intelligens (AI) för att redigera ansikten och kroppar på vanliga människor, förvandla dem till funktionshindrade personer, och sedan skapa sorgliga historier för att sälja produkter eller be om stöd. Det enda målet är att utnyttja samhällets medkänsla för olagliga vinster.

Bild på kvinna redigerad med AI-teknik för att se ut som en funktionshindrad person på TikTok-kanalen NL

Sofistikerade knep

Ett typiskt fall som orsakade allmän upprördhet var TikTok-kanalen NL, som publicerade en serie videor om en kvinna med båda armarna amputerade, som försökte sälja produkter online för att försörja sina små barn. I klippen dök kvinnan upp i ett enkelt rum, iklädd enkla kläder, och använde sin amputerade arm för att presentera produkter, vilket gjorde tittarna känslosamma och sympatiska. Många tvekade inte att klicka för att följa, dela brett och till och med beställa produkter för att hjälpa mamman att övervinna svårigheter. Men när videorna blev virala insåg online-communityn att detta faktiskt var bilden av en vanlig försäljare som hade redigerats med AI-teknik för att se ut som en riktig funktionshindrad person.

Tricket att vädja till känslor av medlidande har blivit en fälla som gör att många människor är villiga att överföra pengar eller göra beställningar eftersom de tror att de hjälper en svag och missgynnad person. Herr Dang Minh Quang, på Ngoc Lam Street, Bo De Ward ( Hanoi ), berättade: "Min mamma trodde på klippet på en kvinna med en amputerad arm som sålde varor, så hon tyckte synd om det och beställde några produkter som såldes av den här personen. När hon fick veta sanningen, att den funktionshindrade personen bara var en bild skapad av AI, blev hon väldigt ledsen och kände sig kränkt."

Quangs mammas historia är inte unik. Hundratals andra har blivit lurade på liknande sätt. När vänlighet utnyttjas förlorar människor gradvis tron och blir tveksamma till genuina rop på hjälp. Och den smärtsamma konsekvensen är att de utsatta verkligen skadas allvarligt. På sin personliga Facebook delade Nguyen Sin fallet med Ms. Tran Thi Nga (36 år i Phu Tho -provinsen) - ägare till kanalen "Nga Tic Cuc" som är funktionshindrad (i slutet av 2024, på grund av akut myokardit, tvingades hon amputera både sina armar och ben för att rädda sitt liv), känd av många människor för att regelbundet inspirera med sin optimistiska livsvilja. Men efter att många fall av att utge sig för att vara funktionshindrade med hjälp av AI dök upp misstänktes Ms. Nga för att ha använt AI för att utge sig för att vara funktionshindrade.

I de senaste livesändningarna blev Ms. Nga många gånger upprörd när vissa användare på sociala medier upprepade gånger bad henne att "räcka upp handen" eller "krypa" för att bevisa att hon verkligen var funktionsnedsatt. Dessa orimliga och grymma förfrågningar sårade henne djupt. Berättelsen om "Active Nga" är ett hjärtskärande bevis på hur skadligt teknikmissbruk kan vara.

AI-genererade färdigheter för igenkänning av falskt innehåll

Enligt ministeriet för offentlig säkerhet registrerade Vietnam år 2024 fler än 6 000 fall av onlinebedrägerier, vilket orsakade en uppskattad förlust på cirka 12 000 miljarder VND. På bara åtta månader 2025 upptäcktes också nästan 1 500 fall av onlinebedrägerier. Denna siffra återspeglar tydligt den farliga nivån av högteknologisk brottslighet i samband med att vårt land har mer än 78 miljoner internetanvändare och 72 miljoner användare av sociala nätverk. Cyberrymden håller på att bli en bördig mark för alltmer sofistikerade bedrägeritrick, där användningen av AI för att skapa falskt innehåll är det största hotet idag.

Inför denna alarmerande verklighet rekommenderar myndigheter och cybersäkerhetsexperter att människor behöver utrusta sig med kunskap och färdigheter för att identifiera falskt innehåll. Biträdande sekreterare för ungdomsförbundet vid Long Bien Ward-polisen (Hanoi), Nguyen Nhat Ha, noterade att människor regelbundet bör övervaka officiella informationskällor och proaktivt uppdatera sina kunskaper om teknik och nya former av bedrägerier. I synnerhet måste de alltid vara vaksamma och komma ihåg de grundläggande principerna, som är att noggrant verifiera informationskällor, inte lämna ut personlig information till overifierade källor, inte använda konstiga länkar och inte överföra pengar till overifierade konton.

För att identifiera AI-genererade videor bör användare, enligt cybersäkerhetsexperter, noggrant observera bilddetaljer, ansiktsrörelser, lemmar eller ljud. Tecken som tomma ögon, onaturliga rörelser, fördröjt tal eller felaktiga läpprörelser är ofta tecken på Deepfake-teknik.

Dessutom är det enkla sätt att utvärdera tillförlitlighet genom att kontrollera informationen som publiceras av kanalen, läsa kommentarer och titta på aktivitetshistoriken. Utöver det måste användare vänja sig vid att verifiera innan de tror på den. Oavsett hur känslosam en video är bör den inte delas eller stödjas i förhastade takt.

Experter uppmanade också sociala medieplattformar att stärka censuren, identifiera innehåll som använder AI för att utge sig för att vara personer med funktionsnedsättning och strikt hantera konton som bryter mot reglerna. Myndigheterna måste också snart utfärda tydliga regler för användningen av AI-bilder och innehåll, för att säkerställa att tekniken inte blir ett verktyg för oetiskt beteende av orättvisa aktörer.

Kommentar (0)