Využití umělé inteligence k vydávání se za osoby se zdravotním postižením za účelem zisku: Pozor na nový podvod

Jsou to padouši, kteří pomocí technologie umělé inteligence (AI) upravují obličeje a těla normálních lidí, mění je v osoby se zdravotním postižením a poté vytvářejí smutné příběhy, aby mohli prodávat produkty nebo volat po podpoře. Jediným cílem je zneužít soucitu komunity s nelegálními zisky.

ohnivý-dao.jpg — Obrázek ženy upravený pomocí umělé inteligence tak, aby vypadal jako osoba se zdravotním postižením na TikTok kanálu s názvem NL

Sofistikované triky

Typickým případem, který vyvolal veřejné pobouření, byl kanál NL na TikToku, který zveřejnil sérii videí o ženě s oběma amputovanýma rukama, která se snaží online prodávat produkty na podporu svých malých dětí. V klipech se žena objevila v jednoduché místnosti, oblečená v jednoduchém oblečení, a pomocí amputované ruky představovala produkty, což diváky dojalo a vyvolalo v nich soucit. Mnoho lidí neváhalo kliknout na video, aby ho sledovali, sdíleli ho široce a dokonce si objednali produkty, které matce pomohly překonat těžkosti. Když se však videa stala virálními, online komunita si uvědomila, že se ve skutečnosti jedná o obrázek normální prodavačky, která byla pomocí technologie umělé inteligence upravena tak, aby vypadala jako skutečná osoba se zdravotním postižením.

Trik s apelováním na lítost se stal pastí, která vede mnoho lidí k ochotě převádět peníze nebo zadávat objednávky, protože věří, že pomáhají slabému a znevýhodněnému člověku. Pan Dang Minh Quang z ulice Ngoc Lam v okrese Bo De ( Hanoj ) se podělil: „Moje matka uvěřila klipu ženy s amputovanou paží, která prodává zboží, takže jí to bylo líto a objednala si nějaké produkty, které tato osoba prodává. Když se dozvěděla pravdu, že postižený člověk je jen obraz vytvořený umělou inteligencí, byla velmi smutná a uražená.“

Příběh Quangovy matky není ojedinělý. Stovky dalších byly podobně oklamány. Když je laskavost zneužita, lidé postupně ztrácejí víru a váhají s opravdovými voláními o pomoc. A bolestným důsledkem je, že zranitelní jsou skutečně těžce zraněni. Na svém osobním Facebooku Nguyen Sin sdílel případ paní Tran Thi Nga (36 let z provincie Phu Tho ) - majitelky kanálu „Nga Tic Cuc“, která je postižená (na konci roku 2024 byla kvůli akutní myokarditidě nucena amputovat obě ruce i nohy, aby si zachránila život), známé pro to, že pravidelně inspiruje svou optimistickou vůlí k životu. Poté, co se však objevilo mnoho případů vydávání se za osoby se zdravotním postižením pomocí umělé inteligence, byla paní Nga podezřelá z používání umělé inteligence k vydávání se za osoby se zdravotním postižením.

V nedávných živých přenosech byla paní Nga mnohokrát rozrušená, když ji někteří uživatelé sociálních médií opakovaně žádali, aby „zvedla ruku“ nebo se „plazila“, aby dokázala, že je skutečně postižená. Tyto nepřiměřené a kruté žádosti ji hluboce zranily. Příběh „Active Nga“ je srdcervoucím důkazem toho, jak škodlivé může být zneužívání technologií.

Dovednosti rozpoznávání falešného obsahu generovaného umělou inteligencí

Podle Ministerstva veřejné bezpečnosti zaznamenal Vietnam v roce 2024 více než 6 000 případů online podvodů, které způsobily odhadovanou ztrátu ve výši přibližně 12 000 miliard VND. Za pouhých 8 měsíců roku 2025 bylo odhaleno téměř 1 500 případů online podvodů. Toto číslo jasně odráží nebezpečnou úroveň high-tech kriminality v kontextu naší země s více než 78 miliony uživatelů internetu a 72 miliony uživatelů sociálních sítí. Kyberprostor se stává úrodnou půdou pro stále sofistikovanější podvodné triky, v nichž je největší hrozbou současnosti využití umělé inteligence k vytváření falešného obsahu.

Tváří v tvář této alarmující realitě úřady a experti na kybernetickou bezpečnost doporučují, aby se lidé vybavili znalostmi a dovednostmi k rozpoznávání falešného obsahu. Zástupce tajemníka Policejní unie mládeže okresu Long Bien (Hanoj) Nguyen Nhat Ha poznamenal, že lidé by měli pravidelně sledovat oficiální informační zdroje, proaktivně aktualizovat své znalosti o technologiích a nových formách podvodů. Zejména musí být vždy ostražití a pamatovat na základní zásady, kterými jsou pečlivé ověřování informačních zdrojů, neposkytování osobních údajů neověřeným zdrojům, nepřistupování k podivným odkazům a nepřevádění peněz na neověřené účty.

Aby bylo možné identifikovat videa generovaná umělou inteligencí, měli by uživatelé podle expertů na kybernetickou bezpečnost pečlivě sledovat detaily obrazu, pohyby obličeje, končetin nebo zvuky. Znaky jako prázdný pohled, nepřirozené pohyby, zpožděná řeč nebo nesourodé pohyby rtů jsou často známkami technologie Deepfake.

Kromě toho je snadné ověřit informace zveřejněné na kanálu, číst komentáře a prohlížet si historii aktivit. Uživatelé si navíc musí zvyknout si nejprve ověřit, než uvěří. Bez ohledu na to, jak emotivní je video, nemělo by být sdíleno ani podporováno ukvapeně.

Odborníci rovněž vyzvali platformy sociálních médií k posílení cenzury, identifikaci obsahu, který využívá umělou inteligenci k vydávání se za osoby se zdravotním postižením, a k přísnému nakládání s účty, které porušují pravidla. Úřady musí také brzy vydat jasné předpisy týkající se používání obrázků a obsahu s umělou inteligencí, aby se zajistilo, že se technologie nestanou nástrojem pro neetické chování ze strany zlých aktérů.

Komentář (0)