MI használata fogyatékkal élők megszemélyesítésére haszonszerzés céljából: Óvakodj az új átverésektől

Ezek rosszfiúk, akik mesterséges intelligencia (MI) technológiát használnak hétköznapi emberek arcának és testének szerkesztésére, fogyatékkal élővé változtatva őket, majd szomorú történeteket találnak ki, hogy termékeket áruljanak vagy segítséget kérjenek. Az egyetlen céljuk az, hogy kihasználják a közösség együttérzését az illegális haszonszerzés érdekében.

tűz-dao.jpg — Mesterséges intelligencia segítségével szerkesztett kép egy fogyatékkal élőnek tűnő nőről az NL nevű TikTok csatornán.

Kifinomult trükkök

Egy tipikus eset, ami közfelháborodást váltott ki, az NL nevű TikTok csatorna volt, amely videósorozatot tett közzé egy mindkét karját amputált nőről, aki online próbált termékeket eladni kisgyermekei támogatására. A klipekben a nő egy egyszerű szobában jelent meg, egyszerű ruhában, amputált karjával mutatta be termékeit, érzelmeket keltve és együttérzést keltve a nézőkben. Sokan nem haboztak kattintani, hogy kövessék, széles körben megosszák, sőt, termékeket rendeljenek, hogy segítsenek az anyának leküzdeni a nehézségeket. Amikor azonban a videók vírusként terjedtek, az online közösség rájött, hogy ez valójában egy átlagos eladólány képe, akit mesterséges intelligencia technológiával szerkesztettek, hogy úgy nézzen ki, mint egy igazi fogyatékkal élő személy.

A szánalomra való apellálás trükkje csapdává vált, amely sok embert arra késztet, hogy pénzt utaljon át vagy megrendeléseket adjon le, mert úgy hiszik, hogy egy gyenge és hátrányos helyzetű emberen segítenek. Dang Minh Quang úr, a Ngoc Lam utcában, Bo De Wardban ( Hanoi ) megosztotta: „Anyám hitt a videóban, amelyen egy amputált karú nő árul árut, ezért sajnálta, és rendelt néhány terméket, amelyet ez a személy árult. Amikor megtudta az igazságot, hogy a fogyatékkal élő személy csak egy mesterséges intelligencia által létrehozott kép, nagyon szomorú volt, és megsértődött.”

Quang édesanyjának története nem egyedi. Több száz másik embert is hasonlóan becsaptak. Amikor valaki visszaél a kedvességgel, az emberek fokozatosan elveszítik a hitüket, és elkezdenek habozni a valódi segítségkérésekkel szemben. A fájdalmas következmény pedig az, hogy a kiszolgáltatottak valóban súlyosan megsérülnek. Nguyen Sin személyes Facebook-oldalán megosztotta Tran Thi Nga asszony (36 éves, Phu Tho tartomány) esetét, aki a "Nga Tic Cuc" csatorna tulajdonosa, és fogyatékkal él (2024 végén akut szívizomgyulladás miatt mindkét karját és lábát amputálni kellett az élete megmentése érdekében), és akit sokan arról ismernek, hogy rendszeresen inspirál optimista életvággyal. Miután azonban számos esetben felmerült, hogy mesterséges intelligencia segítségével fogyatékkal élőket személyesítettek meg, Nga asszonyt azzal gyanúsították, hogy mesterséges intelligenciát használt fogyatékkal élők megszemélyesítésére.

A legutóbbi élő közvetítésekben Ms. Nga sokszor felháborodott, amikor egyes közösségi média felhasználók többször is arra kérték, hogy „emelje fel a kezét” vagy „másszon”, hogy bebizonyítsa, valóban fogyatékos. Ezek az ésszerűtlen és kegyetlen kérések mélyen megbántották. Az „Active Nga” története szívszorító bizonyíték arra, hogy milyen káros lehet a technológiai visszaélés.

Mesterséges intelligencia által generált hamis tartalom felismerési készségek

A Közbiztonsági Minisztérium szerint 2024-ben Vietnámban több mint 6000 online csalási esetet regisztráltak, ami a becslések szerint mintegy 12 000 milliárd VND kárt okozott. 2025 mindössze 8 hónapja alatt közel 1500 online csalási esetet fedeztek fel. Ez a szám egyértelműen tükrözi a high-tech bűnözés veszélyes szintjét, tekintve, hogy országunkban több mint 78 millió internetfelhasználó és 72 millió közösségi hálózati felhasználó él. A kibertér egyre kifinomultabb csalási trükkök termékeny talajává válik, amelyekben a mesterséges intelligencia használata hamis tartalmak létrehozására napjaink legnagyobb fenyegetését jelenti.

Ezzel a riasztó valósággal szembesülve a hatóságok és a kiberbiztonsági szakértők azt javasolják, hogy az emberek vértezzék fel magukat a hamis tartalmak azonosításához szükséges ismeretekkel és készségekkel. Nguyen Nhat Ha, a Long Bien kerületi rendőrség (Hanoi) Ifjúsági Uniójának titkárhelyettese megjegyezte, hogy az embereknek rendszeresen figyelniük kell a hivatalos információforrásokat, proaktívan frissíteniük kell ismereteiket a technológiával és a csalás új formáival kapcsolatban. Különösen fontos, hogy mindig éberek legyenek, és emlékezzenek az alapelvekre, amelyek a következők: az információforrások gondos ellenőrzése, személyes adatok nem megadása ellenőrizetlen forrásoknak, ismeretlen linkekhez való hozzáférés kerülése, valamint pénzátutalás nem ellenőrizetlen számlákra.

A kiberbiztonsági szakértők szerint a mesterséges intelligencia által generált videók azonosításához a felhasználóknak gondosan meg kell figyelniük a kép részleteit, az arcmozgásokat, a végtagokat vagy a hangokat. Az olyan jelek, mint az üres tekintet, a természetellenes mozdulatok, a késleltetett beszéd vagy az össze nem illő ajakmozgások gyakran a Deepfake technológia jelei.

Ezenkívül a csatorna által közzétett információk ellenőrzése, a hozzászólások olvasása és az aktivitási előzmények megtekintése szintén egyszerű módszerek a megbízhatóság értékelésére. Emellett a felhasználóknak szokásuknak kell lenniük ellenőrizni a véleményüket, mielőtt hisznek valamiben. Nem számít, mennyire érzelmes egy videó, nem szabad elhamarkodottan megosztani vagy támogatni.

A szakértők arra is felszólították a közösségi média platformokat, hogy erősítsék meg a cenzúrát, azonosítsák azokat a tartalmakat, amelyek mesterséges intelligenciát használnak a fogyatékkal élők személyes adatainak kiadására, és szigorúan kezeljék a szabálysértő fiókokat. A hatóságoknak hamarosan egyértelmű szabályozásokat kell kiadniuk a mesterséges intelligencia által létrehozott képek és tartalmak használatára vonatkozóan, biztosítva, hogy a technológia ne váljon a rosszindulatú szereplők etikátlan viselkedésének eszközévé.

Hozzászólás (0)