Deepfake je na vzestupu - Nikdo není v bezpečí před triky s vydáváním se za umělou inteligenci

Napodobování hlasu, napodobování obličeje, synchronizace rtů... Umělá inteligence dnes není jen pro práci a zábavu, ale stává se i nebezpečným nástrojem komerčních podvodů. Obrázky celebrit, lékařů a dokonce i mnichů jsou umělou inteligencí zkreslovány za účelem prodeje produktů na sociálních sítích. Skuteční lidé to nevědí a kupující ztrácejí důvěru.

Být „vypůjčenou tváří“ k prodeji zboží

„Ať už je vaše původní koleno jakékoli, použijte naši metodu. Garantujeme, že se do 7 dnů výrazně zlepší. Pokud bude metoda zcela neúčinná, jsem ochoten/ochotna upřímně omluvit 1 miliardu VND. Pokud opravdu neuvidíte žádný efekt, zavazujeme se k 100% vrácení peněz a já sám/sama jsem ochoten/ochotna uhradit 1 miliardu VND. Ne každý si dovolí něco takového zavázat,“ sdělila slavná zpěvačka, která inzerovala masážní krém proti bolesti kloubů. Stojí však za zmínku, že tuto reklamu vytvořila výhradně umělá inteligence.

Výše uvedený reklamní klip byl použit účtem na TikToku s názvem LShop, který realisticky ztvárnil obraz, hlas a řeč těla zpěvačky, což nelze zjistit bez pečlivého pozorování. Tento účet má téměř 9 000 sledujících, 67 000 lajků a každý klip má tisíce zhlédnutí. Samotné „reklamní“ video , které si vypůjčilo obrázek zpěvačky výše, přilákalo více než 1 000 lajků a téměř 100 komentářů s nabídkou zakoupení.

S tým samým masážním krémem prodejní kanály také „vyprodukovaly“ další deepfake verzi, tentokrát lékaře. V klipu se postava pevně zavázala: „Jsem nejprestižnější ortopedický lékař v Hanoji a garantuji, že i nejzávažnější natržení menisku lze kompletně vyléčit za pouhé 3 dny. Tento gel byl certifikován nejprestižnější ortopedickou asociací ve Vietnamu.“ Tuto větu umělá inteligence znovu vytvořila pro řadu dalších „lékařů“, takže si ji diváci snadno zamění za skutečnou.

Klip získal téměř 4 000 lajků a více než 120 komentářů, ale když jsme poslali SMS s žádostí o objednání, účet nereagoval ani nekomunikoval s diváky v sekci komentářů, pouze nechal produkt v košíku k přímému zakoupení. Je pozoruhodné, že produkt na prodej pocházel z Číny a informace o produktu byly velmi vágní.

Od zpěváků, celebrit až po lékaře, všichni byli vydáváni za prodejní kanály, které vytvářejí klipy s umělou inteligencí za účelem prodeje produktů souvisejících se zdravím.

Tím se deepfake trik nezastavil a rozšířil se i do duchovních záležitostí. Účet na TikToku s názvem Phat Phap NM nejenže zveřejnil přednášky mistra TPH, ale také pomocí umělé inteligence vytvořil obrázky „mistra“, který prodával produkty, jako jsou listy Bodhi a náramky z agarového dřeva.

Když diváci zanechali komentáře s žádostí o koupi, kanál odpověděl: „Pokud se věci nebudou vyvíjet podle očekávání, přejděte do sekce zobrazení na mém účtu a vyberte si, co potřebujete, nešetřete na drobné a ignorujte ty větší.“ Ihned poté se tento mnich sám musel ozvat, aby objasnil, že takové produkty nikdy neinzeroval ani se s nimi nepodílel.

Hranice mezi kreativitou a porušováním práv

Expert na kybernetickou bezpečnost Ngo Minh Hieu (Hieu PC) z Národního monitorovacího centra pro kybernetickou bezpečnost (NCSC) uvedl, že falešné reklamní klipy šířící se na sociálních sítích jsou vytvářeny převážně pomocí softwaru Deepfake. Tyto softwary nejsou vzácné, mnoho služeb dokonce nabízí balíčky s nízkými náklady a velmi jednoduchým ovládáním. Přestože existují pozitivní aplikace v oblasti tvorby digitálního obsahu a mediální produkce, podle pana Hieua problém spočívá v tom, že některé subjekty tuto technologii zneužívají k negativním účelům, jako jsou podvody, padělání identity, šíření falešných zpráv nebo pomlouvání ostatních prostřednictvím videí, která vypadají jako skutečná.

Pan Hieu také uvedl několik znaků, které pomohou identifikovat deepfake klipy, jako například poněkud ztuhlé výrazy obličeje ve videu, tvary a pohyby úst, které neodpovídají dialogu... Pan Hieu varoval, že došlo k závažnějším situacím, kdy byla umělá inteligence použita k vkládání tváří obětí do citlivých videí za účelem zastrašování, nátlaku a zisku.

Podle právníka Tran Duc Phuonga z advokátní komory Ho Či Minova města je používání umělé inteligence k vytváření snímků celebrit (nebo konkrétních osob) bez jejich souhlasu porušením osobních práv, konkrétně práva na zobrazení, jak je stanoveno v článku 32 občanského zákoníku z roku 2015. Zákon stanoví: „Jednotlivci mají právo na svůj vlastní obraz. Použití obrazu jednotlivce musí být s ním dohodnuto. Použití obrazu pro komerční účely musí být osobě, jejíž obraz je použit, odměněno, pokud se strany nedohodly jinak.“

Pokud tedy majitel účtu na sociální síti použije obrázky vytvořené umělou inteligencí ze skutečných fotografií, starých videí atd. pro reklamní nebo prodejní účely bez svolení, porušil zákon. Pokud použití obrázku porušuje ustanovení tohoto článku, má osoba s obrázkem právo požádat soud o vydání rozhodnutí, které donutí porušovatele, příslušné orgány, organizace a jednotlivce stáhnout, zničit a ukončit používání obrázku, nahradit škody a uplatnit další opatření v souladu s ustanoveními zákona.

CAM NUONG

Zdroj: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html