Deepfake porno, problém v závodě umělé inteligence

Deepfakes jsou videa a obrázky, které jsou digitálně vytvořeny nebo upraveny pomocí umělé inteligence (AI) nebo strojového učení (ML). Pornografie vytvořená pomocí této technologie se poprvé začala šířit internetem před několika lety, když uživatel Redditu sdílel falešné pornografické klipy s tvářemi celebrit.

Foto: GI

Obětí se může stát kdokoli.

Od té doby tvůrci deepfakeů nadále zveřejňují podobná videa a obrázky cílené na online influencery, novináře a další osoby s veřejnými profily. Na mnoha webových stránkách existují tisíce takových videí.

Vzhledem k tomu, že technologie umělé inteligence jsou stále dostupnější, mohou si uživatelé bez jejich souhlasu proměnit kohokoli, koho chtějí, v „pornohvězdy“, nebo, co je nebezpečnější, mohou tuto technologii použít k pomluvě nebo vydírání ostatních.

Odborníci tvrdí, že problém by se mohl zhoršit s vývojem generativních nástrojů umělé inteligence, které jsou trénovány na miliardách obrázků z internetu a generují nový obsah s využitím stávajících dat.

„Realita je taková, že technologie se budou i nadále šířit, budou se dále vyvíjet a budou i nadále snadněji dostupné,“ řekl Adam Dodge, zakladatel EndTAB, skupiny, která poskytuje školení o zneužívání technologií. „A dokud to tak bude pokračovat, lidé budou nepochybně… nadále zneužívat tyto technologie k ubližování druhým, a to především prostřednictvím online sexuálního násilí, deepfake pornografie a falešných aktů.“

Noelle Martin z australského Perthu si tuto realitu sama prožila. Tato osmadvacetiletá žena objevila deepfake porno, na kterém je ona sama, před 10 lety, když si ze zvědavosti jednoho dne vygooglila svůj vlastní obrázek. Martin dodnes říká, že netuší, kdo tyto falešné pornografické obrázky nebo videa vytvořil. Má podezření, že někdo použil její obrázky ze sociálních sítí k vytvoření pornografických videí.

Martinová se snažila kontaktovat webové stránky, aby videa odstranila, ale její úsilí bylo marné. Některé nereagovaly. Jiné je stáhly, ale rychle je znovu zveřejnily. „Nemůžete vyhrát,“ řekla paní Martinová. „Zůstane to na internetu navždy a může vám to zničit život.“

Snahy technologických společností o vyřešení problému

Některé modely umělé inteligence tvrdí, že mají omezený přístup k pornografickým obrázkům.

Společnost OpenAI uvedla, že z dat použitých k trénování svého generátoru obrázků DALL-E odstranila pornografický obsah, což by mělo omezit pravděpodobnost jeho zneužití. Společnost také filtruje požadavky a tvrdí, že blokuje uživatelům vytvářet obrázky celebrit a významných politiků pomocí umělé inteligence. Další model, Midjourney, také blokuje použití určitých klíčových slov a povzbuzuje uživatele, aby moderátorům nahlašovali problematické obrázky.

Mezitím společnost Stability AI také vydala aktualizaci, která uživatelům brání ve vytváření explicitních obrázků. Tyto změny přicházejí po zprávách, že někteří uživatelé tuto technologii používali k vytváření nahých fotografií inspirovaných celebritami.

Mluvčí Stability AI Motez Bishara uvedl, že filtr používá kombinaci klíčových slov a dalších technik, jako je rozpoznávání obrázků, k detekci nahoty. Uživatelé si však mohou software upravit a vytvořit si, co chtějí, protože společnost zveřejnila otevřený zdrojový kód aplikace.

Některé společnosti sociálních médií také zpřísnily pravidla, aby lépe chránily své platformy před škodlivým materiálem.

TikTok minulý měsíc uvedl, že veškerý deepfake nebo manipulovaný obsah musí být označen tak, aby bylo patrné, že je falešný nebo nějakým způsobem pozměněný.

Herní platforma Twitch nedávno aktualizovala svá pravidla týkající se deepfake obrázků poté, co byl populární streamer jménem Atrioc koncem ledna přistižen při otevírání deepfake porno stránky ve svém prohlížeči během živého streamu.

Apple a Google oznámily, že nedávno ze svých obchodů s aplikacemi odstranily aplikaci, která za účelem propagace jejich produktů zobrazovala sexuálně sugestivní deepfake videa.

Od západního zpěváka po idola K-popu.

Výzkum deepfake porna je vzácný, ale zpráva společnosti DeepTrace Labs, která se zabývá umělou inteligencí, z roku 2019 zjistila, že je téměř výhradně zneužíváno proti ženám, přičemž nejčastějším cílem byly západní herečky, následované zpěvačkami K-popu.

Mluvčí společnosti Meta Dani Lever ve svém prohlášení uvedla, že zásady společnosti omezují obsah pro dospělé generovaný umělou inteligencí i bez ní a že na stránce aplikace generující deepfakes není možné zobrazovat reklamu na její platformě.

V únoru se Meta, stejně jako stránky pro dospělé jako Only**** a Porn***, začaly účastnit online nástroje s názvem Take It Down, který umožňuje teenagerům hlásit sexuálně explicitní obrázky a videa sebe sama z internetu. Stránka podporuje jak tajně natočená videa, tak videa generovaná umělou inteligencí.

Hoang Ton (podle AP)

Zdroj: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html