Využití umělé inteligence k vydávání se za osoby se zdravotním postižením za účelem zisku: Pozor na tento nový podvod.

V poslední době se na platformách sociálních médií, jako jsou Facebook a TikTok, objevily nové a bezprecedentně sofistikované podvody.

Jde o zlomyslné jedince, kteří pomocí technologie umělé inteligence (AI) upravují obličeje a těla obyčejných lidí, transformují je na osoby s postižením a poté si vymýšlejí srdcervoucí příběhy, aby mohli prodávat produkty nebo získávat dary. Jejich jediným cílem je zneužívat soucit komunity k nezákonnému zisku.

Na kanálu TikTok s názvem NL byly zveřejněny snímky ženy digitálně upravené tak, aby připomínala osobu se zdravotním postižením, a to pomocí technologie umělé inteligence.

Sofistikovaný trik

Ukázkovým příkladem, který vyvolal veřejné pobouření, byl kanál NL na TikToku, který zveřejnil sérii videí ženy s oběma amputovanýma rukama, jak se snaží prodávat zboží online, aby uživila své malé děti. V klipech se žena objevuje v jednoduché místnosti, oblečená v skromném oblečení, a používá své amputované paže k propagaci produktů, což u diváků vyvolává pocity soucitu a soucitu. Mnoho lidí video ochotně sledovalo, sdílelo a dokonce si objednávalo zboží, aby matce pomohlo překonat její těžkosti. Jakmile se však videa stala virálními, uživatelé internetu si uvědomili, že se ve skutečnosti jedná o obrázky normální prodavačky, které byly digitálně upraveny pomocí umělé inteligence tak, aby připomínaly skutečně postiženou osobu.

Taktika zneužívání soucitu lidí se stala pastí, která vede mnoho lidí k převodu peněz nebo zadávání objednávek v domnění, že pomáhají znevýhodněné nebo zranitelné osobě. Dang Minh Quang, bydlící na ulici Ngoc Lam v okrese Bo De ( Hanoj ), se podělil: „Moje matka uvěřila videu ženy s chybějící paží, která prodává zboží, cítila s ní soucit a objednala si od ní nějaké produkty. Když se dozvěděla pravdu – že postižená osoba je jen obrázek vygenerovaný umělou inteligencí – byla velmi smutná a cítila se uražená.“

Příběh Quangovy matky není ojedinělý. Stovky dalších byly podobně oklamány. Když je zneužita laskavost, lidé postupně ztrácejí víru a stávají se opatrnými vůči skutečným voláním o pomoc. Srdcervoucím důsledkem je, že skutečně zranitelní lidé velmi trpí. Na svém osobním facebookovém účtu Nguyen Sin sdílel případ Tran Thi Nga (36 let, z provincie Phu Tho ) – majitelky kanálu „Nga the Positive“ – osoby se zdravotním postižením (na konci roku 2024 jí byla kvůli akutní myokarditidě nucena amputovat obě ruce i nohy, aby si zachránila život), známé tím, že svým optimistickým pohledem na život často inspiruje ostatní. Poté, co se však objevily četné případy vydávání se za osoby se zdravotním postižením pomocí umělé inteligence, byla Nga podezřelá z používání umělé inteligence k vydávání se za osobu se zdravotním postižením.

Během nedávných živých přenosů byla paní Nga opakovaně rozrušena žádostmi uživatelů sociálních médií, aby „zvedla ruce“, „plazila se“ atd., aby dokázala, že je skutečně postižená. Tyto nepřiměřené a kruté požadavky ji hluboce zranily. Příběh paní Ngy je srdcervoucím svědectvím o tom, do jaké míry může zneužívání technologií způsobit škodu.

Dovednosti v identifikaci falešného obsahu vytvořeného umělou inteligencí

Podle Ministerstva veřejné bezpečnosti zaznamenal Vietnam v roce 2024 přes 6 000 případů online podvodů, které způsobily odhadované ztráty ve výši přibližně 12 bilionů VND. Za pouhých osm měsíců roku 2025 bylo odhaleno téměř 1 500 případů online podvodů. Tato čísla jasně odrážejí nebezpečnou povahu high-tech kriminality v kontextu Vietnamu s více než 78 miliony uživatelů internetu a 72 miliony uživatelů sociálních médií. Kyberprostor se stává úrodnou půdou pro stále sofistikovanější podvodné schémata, přičemž největší hrozbou současnosti je využití umělé inteligence k vytváření falešného obsahu.

Vzhledem k této alarmující situaci úřady a experti na kybernetickou bezpečnost radí lidem, aby se vybavili znalostmi a dovednostmi k identifikaci falešného obsahu. Nguyen Nhat Ha, zástupce tajemníka Svazu mládeže policie okresu Long Bien (Hanoj), poznamenal, že lidé by měli pravidelně sledovat oficiální informační zdroje, proaktivně aktualizovat své znalosti o technologiích a nových formách podvodů. Zejména musí být vždy ostražití a pamatovat na základní zásady: pečlivě ověřovat zdroj informací, neposkytovat osobní údaje neověřeným zdrojům, nepřistupovat k podivným odkazům a nepřevádět peníze na neověřené účty.

Odborníci na kybernetickou bezpečnost radí uživatelům, aby pro identifikaci videí generovaných umělou inteligencí pečlivě sledovali detaily obrazu, pohyby obličeje a rukou a zvuk. Znaky, jako jsou bezvládné oči, nepřirozené pohyby, zpožděná řeč nebo nesourodé pohyby rtů, jsou často ukazateli technologie deepfake.

Kromě toho je snadné ověřit informace o uživateli, který video nahrál, přečíst si komentáře a prohlédnout si historii aktivit. Uživatelé si navíc musí osvojit zvyk ověřovat si informace, než jim uvěří. Ani ta nejemotivnější videa by neměla být sdílena ani podporována ukvapeně.

Odborníci rovněž vyzývají platformy sociálních médií, aby posílily cenzuru a identifikovaly obsah využívající umělou inteligenci k vydávání se za osoby se zdravotním postižením a aby přísně trestaly účty, které tuto cenzuru porušují. Úřady musí také urychleně vydat jasné předpisy týkající se používání obrázků a obsahu generovaného umělou inteligencí a zajistit, aby se tato technologie nestala nástrojem pro neetické chování ze strany zlých jedinců.

Zdroj: https://hanoimoi.vn/dung-ai-gia-nguoi-khuyet-tat-de-truc-loi-canh-giac-chieu-lua-moi-722565.html