Deepfakes bují – Nikdo není v bezpečí před triky s vydáváním se za umělou inteligenci

Napodobování hlasu, imitace obličeje, synchronizace rtů... Umělá inteligence dnes není jen pro práci a zábavu, ale stává se i nebezpečným nástrojem komerčních podvodů. Obrázky celebrit, lékařů a dokonce i mnichů jsou umělou inteligencí zkreslovány za účelem prodeje produktů na sociálních sítích. Skuteční lidé to nevědí a kupující ztrácejí důvěru.

Být „vypůjčenou tváří“ k prodeji zboží

„Ať už je váš stav kolene jakýkoli, použijte naši metodu. Garantujeme, že se do 7 dnů výrazně zlepší. Pokud bude metoda zcela neúčinná, jsem ochoten/ochotna upřímně omluvit 1 miliardu VND. Pokud opravdu neuvidíte žádný efekt, zavazujeme se k 100% vrácení peněz a já sám/sama jsem ochoten/ochotna uhradit 1 miliardu VND. Ne každý si dovolí něco takového zavázat,“ sdělila slavná zpěvačka, která inzerovala masážní krém proti bolesti kloubů. Stojí za zmínku, že tuto reklamu vytvořila výhradně umělá inteligence.

Výše uvedený reklamní klip byl použit účtem na TikToku s názvem LShop, který realisticky využil zpěvákův obraz, hlas a řeč těla, což nelze zjistit bez pečlivého pozorování. Tento účet má téměř 9 000 sledujících, 67 000 lajků a každý klip má tisíce zhlédnutí. Samotné „reklamní“ video s použitím zpěvákova obrazu přilákalo více než 1 000 lajků a téměř 100 komentářů k zakoupení.

S tým samým masážním krémem prodejní kanály také „vyprodukovaly“ další deepfake verzi, tentokrát lékaře. V klipu postava pevně slíbila: „Jsem nejprestižnější ortopedický lékař v Hanoji a garantuji, že i nejzávažnější natržení menisku lze kompletně vyléčit za pouhé 3 dny. Tento gel byl certifikován nejprestižnější ortopedickou asociací ve Vietnamu.“ Tuto větu umělá inteligence znovu vytvořila pro řadu dalších „lékařů“, takže si ji diváci snadno zamění za skutečnou.

Klip získal téměř 4 000 lajků a více než 120 komentářů, ale když jsme poslali SMS s žádostí o koupi, účet nereagoval ani nekomunikoval s diváky v sekci komentářů, pouze nechal produkt v košíku k přímému zakoupení. Je pozoruhodné, že produkt na prodej pochází z Číny a informace o produktu jsou velmi vágní.

Od zpěváků, celebrit až po lékaře, všichni byli vydáváni za prodejní kanály, které vytvářejí klipy s umělou inteligencí za účelem prodeje produktů souvisejících se zdravím.

Tím se deepfake trik nezastavil a rozšířil se i do duchovních záležitostí. Účet na TikToku s názvem Phat Phap NM nejenže zveřejňuje přednášky mistra TPH, ale také pomocí umělé inteligence vytváří obrázky „mistra“, který prodává produkty, jako jsou listy Bodhi a náramky z agarového dřeva.

Když diváci zanechali komentáře s žádostí o koupi, kanál odpověděl: „Pokud se věci nevyvíjejí podle plánu, přejděte do sekce zobrazení na mém účtu a vyberte si, co potřebujete, nešetřete na drobné a ignorujte ty větší.“ Ihned poté se musel tento mnich sám ozvat, aby upřesnil, že takové produkty nikdy neinzeroval ani se s nimi nepodílel.

Hranice mezi kreativitou a porušováním práv

Expert na kybernetickou bezpečnost Ngo Minh Hieu (Hieu PC) z Národního monitorovacího centra pro kybernetickou bezpečnost (NCSC) uvedl, že falešné reklamní klipy šířící se na sociálních sítích jsou vytvářeny převážně pomocí softwaru Deepfake. Tento software není neobvyklý a mnoho služeb dokonce nabízí balíčky s nízkými náklady a velmi jednoduchým ovládáním. Přestože existují pozitivní aplikace v oblasti tvorby digitálního obsahu a mediální produkce, podle pana Hieua problém spočívá v tom, že některé subjekty tuto technologii zneužívají k negativním účelům, jako jsou podvody, padělání identity, šíření falešných zpráv nebo pomlouvání ostatních prostřednictvím videí, která vypadají jako skutečná.

Pan Hieu také uvedl několik znaků, které pomohou identifikovat deepfake klipy, jako například poněkud ztuhlé výrazy obličeje ve videu, tvary a pohyby úst neodpovídající dialogu... Pan Hieu varoval, že došlo k závažnějším situacím, kdy byla umělá inteligence použita k vkládání tváří obětí do citlivých videí za účelem zastrašování, nátlaku a zisku.

Podle právníka Tran Duc Phuonga z advokátní komory Ho Či Minova města je používání umělé inteligence k vytváření snímků celebrit (nebo konkrétních osob) bez jejich souhlasu porušením osobních práv, konkrétně práva na zobrazení, jak je stanoveno v článku 32 občanského zákoníku z roku 2015. Zákon stanoví: „Jednotlivci mají právo na svůj vlastní obraz. Použití obrazu jednotlivce vyžaduje jeho souhlas. Použití obrazu pro komerční účely musí osobě, jejíž obraz je použit, vynést odměnu, pokud se strany nedohodly jinak.“

Pokud tedy majitel účtu na sociální síti použije obrázky vytvořené umělou inteligencí ze skutečných fotografií, starých videí atd. pro reklamní nebo prodejní účely bez svolení, porušil zákon. Pokud použití obrázku porušuje ustanovení tohoto článku, má osoba s obrázkem právo požádat soud o vydání rozhodnutí, které donutí porušovatele, příslušné orgány, organizace a jednotlivce stáhnout, zničit a ukončit používání obrázku, nahradit škody a uplatnit další opatření v souladu s ustanoveními zákona.

CAM NUONG

Zdroj: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html