Deepfake porno, problém v závodě umělé inteligence

Deepfakes jsou videa a obrázky vytvořené nebo digitálně upravené pomocí umělé inteligence (AI) nebo strojového učení (ML). Pornografický obsah vytvořený pomocí této technologie se na internetu začal šířit před několika lety, když uživatel Redditu sdílel falešné pornografické klipy s tvářemi celebrit.

Foto: GI

Obětí se může stát kdokoli.

Od té doby tvůrci deepfakeů neustále zveřejňují podobná videa a obrázky zaměřené na online influencery, novináře a další osoby s veřejnými profily. Na mnoha webových stránkách existují tisíce takových videí.

Vzhledem k tomu, že technologie umělé inteligence jsou stále dostupnější, mohou si uživatelé bez jejich souhlasu proměnit kohokoli v „hvězdy pornografických filmů“, nebo, což je nebezpečnější, využít tuto technologii k pomluvě nebo vydírání ostatních.

Odborníci tvrdí, že problém by se mohl zhoršit s vývojem zobecněných nástrojů umělé inteligence, které jsou trénovány na miliardách obrázků z internetu a generují nový obsah s využitím stávajících dat.

„Realita je taková, že technologie se budou i nadále šířit, budou se i nadále vyvíjet a budou i nadále snazší a dostupnější,“ řekl Adam Dodge, zakladatel EndTAB, skupiny, která poskytuje školení o zneužívání technologií. „A dokud to tak bude pokračovat, lidé… budou i nadále zneužívat tyto technologie k ubližování druhým, a to především prostřednictvím online sexuálního násilí, deepfake pornografie a falešné nahoty.“

Noelle Martin z australského Perthu to zažila na vlastní kůži. Osmadvacetiletá žena objevila své vlastní deepfake pornografické obrázky před 10 lety, když ze zvědavosti použila Google k vyhledání svých fotografií. Martin dodnes říká, že neví, kdo tyto falešné pornografické obrázky nebo videa vytvořil. Má podezření, že někdo použil obrázky z jejích sociálních sítí k vytvoření pornografických videí.

Přestože se Martina snažila kontaktovat webové stránky a požádat o odstranění videí, její úsilí bylo marné. Některé nereagovaly. Jiné je stáhly, ale rychle je znovu nahrály. „Nemůžete vyhrát,“ řekla Martina. „Zůstane to na internetu navždy a mohlo by vám to zničit život.“

Snahy technologických společností o nápravu situace.

Některé modely umělé inteligence uvedly, že mají omezený přístup k pornografickým obrázkům.

Společnost OpenAI uvádí, že z dat používaných k trénování nástroje pro generování obrázků DALL-E odstranila pornografický obsah, což omezí potenciál pro zneužití. Společnost také filtruje požadavky a blokuje uživatele ve vytváření obrázků celebrit a významných politiků pomocí umělé inteligence. Midjourney, další model, také blokuje použití určitých klíčových slov a povzbuzuje uživatele, aby moderátorům nahlašovali problematické obrázky.

Společnost Stability AI mezitím vydala aktualizaci, která uživatelům brání ve vytváření citlivých obrázků. Tyto změny přicházejí poté, co se objevily zprávy, že někteří uživatelé pomocí této technologie vytvářeli nahé fotografie inspirované celebritami.

Mluvčí Stability AI Motez Bishara uvedl, že filtr používá kombinaci klíčových slov a dalších technik, jako je rozpoznávání obrázků, k detekci nahoty. Uživatelé však mohou software manipulovat a vytvářet, co chtějí, protože společnost zveřejnila open source kód aplikace.

Některé společnosti sociálních médií také zpřísnily svá pravidla, aby lépe chránily své platformy před škodlivým materiálem.

TikTok minulý měsíc uvedl, že veškerý deepfake nebo manipulovaný obsah musí být označen tak, aby bylo zřejmé, že je falešný nebo byl nějakým způsobem pozměněn.

Herní platforma Twitch nedávno aktualizovala svá pravidla týkající se deepfake obrázků poté, co se u populárního streamera jménem Atrioc koncem ledna během živého streamu zjistilo, že si ve svém prohlížeči přistupuje na webovou stránku s deepfake pornografií.

Apple a Google nedávno oznámily, že ze svých obchodů s aplikacemi odstranily aplikaci, která za účelem propagace produktů zobrazovala sexuálně sugestivní deepfake videa.

Od západních zpěváků po K-popové idoly.

Výzkum deepfake porna je vzácný, ale zpráva společnosti DeepTrace Labs, která se zabývá umělou inteligencí, z roku 2019 zjistila, že je téměř výhradně zneužíváno proti ženám, přičemž nejčastějším cílem byly západní herečky, následované zpěvačkami K-popu.

Mluvčí společnosti Meta Dani Lever ve svém prohlášení uvedla, že politika společnosti omezuje obsah pro dospělé generovaný umělou inteligencí i bez ní a také omezuje reklamu na stránce aplikace pro tvorbu deepfake na její platformě.

V únoru se Meta spolu s webovými stránkami pro dospělé, jako jsou Only**** a Porn***, začala účastnit online nástroje s názvem Take It Down, který umožňuje teenagerům nahlašovat vlastní pornografické obrázky a videa z internetu. Stránka podporuje zpracování jak tajně natočených videí, tak videí generovaných umělou inteligencí.

Hoang Ton (podle AP)

Zdroj: https://www.congluan.vn/deepfake-khieu-dam-van-nan-trong-cuoc-dua-ai-post244021.html