Být „využíván“ k prodeji produktů.
„Ať už je váš stav kolene jakýkoli, jednoduše použijte naši metodu a my vám garantujeme výrazné zlepšení do 7 dnů. Pokud se neobjeví žádný efekt, jsem ochotna zaplatit 1 miliardu VND jako upřímnou omluvu. Pokud skutečně neuvidíte žádný efekt, garantujeme 100% vrácení peněz a já sama jsem ochotna kompenzovat 1 miliardu VND. Ne každý se odváží k takovému závazku,“ zní prohlášení slavné zpěvačky propagující masážní krém na klouby, ale pozoruhodné je, že tato reklama byla vytvořena výhradně s využitím umělé inteligence.
Výše zmíněný reklamní klip, vytvořený účtem na TikToku s názvem LShop, využívá zpěvákův obraz, hlas a řeč těla způsobem, který je bez bližšího pozorování nepostřehnutelný. Tento účet má téměř 9 000 sledujících, 67 000 lajků a každý klip má tisíce zhlédnutí. Video , na kterém se zpěvák konkrétně objevuje, získalo přes 1 000 lajků a téměř 100 komentářů s žádostmi o nákup.
Spolu s tímto masážním krémem prodejní kanály také „vyprodukovaly“ další deepfake verzi, tentokrát s lékařem. V klipu postava sebevědomě slibuje: „Jsem nejuznávanější ortopedický lékař v Hanoji a garantuji, že i ta nejzávažnější natržení menisku lze zcela vyléčit za pouhé 3 dny. Tento gel byl certifikován nejprestižnější ortopedickou asociací ve Vietnamu.“ Tento dialog je umělou inteligencí znovu vytvořen pro řadu dalších „lékařů“, což diváky snadno vede k přesvědčení, že je skutečný.
Video získalo téměř 4 000 lajků a přes 120 komentářů, ale když jsme prodejci poslali zprávu s žádostí o objednávku, uživatel nereagoval ani s diváky nekomunikoval v sekci komentářů; pouze nechali produkt v nákupním košíku k přímému zakoupení. Je pozoruhodné, že inzerovaný produkt pocházel z Číny a informace o produktu byly velmi vágní.
Podvod s deepfake se tím nezastavil; rozšířil se dokonce i do duchovních záležitostí. Účet na TikToku s názvem Phật Pháp NM nejenže znovu publikoval přednášky ctihodného TPH, ale také pomocí umělé inteligence vytvářel jeho obrázky za účelem prodeje produktů, jako jsou listy Bodhi a náramky z agarového dřeva.
Když diváci zanechali komentáře s žádostí o koupi, kanál odpověděl: „Pokud se vám něco nelíbí, přejděte prosím do sekce zobrazení na mém účtu a vyberte si, co potřebujete. Nešetřete malou částkou a nepřijďte o něco většího.“ Krátce nato musel sám mnich upřesnit, že takové produkty nikdy neinzeroval ani se s nimi nepodílel.
Hranice mezi kreativitou a porušováním individuálních práv.
Podle experta na kybernetickou bezpečnost Ngo Minh Hieu (Hieu PC) z Národního monitorovacího centra pro kybernetickou bezpečnost (NCSC) jsou falešné reklamní klipy kolující na sociálních sítích vytvářeny převážně pomocí softwaru Deepfake. Tento software není neobvyklý; mnoho služeb dokonce nabízí balíčky za nízké ceny a s velmi jednoduchým ovládáním. I když má pozitivní uplatnění při tvorbě digitálního obsahu a mediální produkci, pan Hieu se domnívá, že problém spočívá v tom, že někteří jednotlivci tuto technologii zneužívají k negativním účelům, jako jsou podvody, vydávání se za jinou identitu, šíření falešných zpráv nebo pomlouvání ostatních prostřednictvím videí, která vypadají autenticky.
Pan Hieu také poukázal na některé znaky, které pomáhají identifikovat deepfake klipy, jako jsou ztuhlé výrazy obličeje ve videu, pohyby úst a rtů neodpovídající dialogu… Pan Hieu varoval, že došlo k závažnějším situacím, kdy byla umělá inteligence použita k vkládání tváří obětí do citlivých videí za účelem zastrašování, nátlaku a zisku.
Podle právníka Tran Duc Phuonga z Advokátní komory Ho Či Minova města je používání umělé inteligence k vytváření snímků celebrit (nebo konkrétních osob) bez jejich souhlasu porušením osobních práv, konkrétně práva na vlastní podobu, jak je stanoveno v článku 32 občanského zákoníku z roku 2015. Zákon uvádí: „Jednotlivci mají právo na svou vlastní podobu. Použití obrazu jednotlivce musí být s jeho souhlasem. Použití obrazu pro komerční účely vyžaduje odškodnění osoby, jejíž obraz je použit, pokud se strany nedohodnou jinak.“
Pokud tedy držitel účtu na sociálních sítích používá obrázky generované umělou inteligencí ze skutečných fotografií, starých videí atd. pro reklamní nebo prodejní účely bez povolení, porušuje zákon. Pokud použití obrázků porušuje toto ustanovení, má osoba, jejíž obrázek je použit, právo požádat o soudní příkaz, který by porušovateli, příslušnému orgánu, organizaci nebo jednotlivci nařídil stažení, zničení a ukončení používání obrázku, náhradu škody a uplatnění dalších právních sankcí.
Zdroj: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html
Komentář (0)