Umělá inteligence vytváří urážlivé video při „oživování“ mrtvých

Nový nástroj pro tvorbu videí od OpenAI dostává rodiny celebrit do krize, protože umělá inteligence „vzkřísí“ obrazy zesnulých blízkých v urážlivých, zkreslených a někdy i ponižujících videích.

Videa zesnulých lidí, od Malcolma X přes Whitney Houston až po Kobeho Bryanta, generovaná umělou inteligencí, vyvolala rozruch a vyvolala otázky ohledně etických hranic a kontroly obrazu v době umělé inteligence.

Urážlivý obsah

Ilyasah Shabazz, dcera aktivisty za občanská práva Malcolma X, říká, že nechce vidět žádné klipy svého otce generované umělou inteligencí. Tato videa byla vytvořena pomocí Sora 2, nově vydaného nástroje OpenAI pro převod textu na video, k vytvoření scén, v nichž Malcolm X vypráví vulgární vtipy a hádá se s reverendem Martinem Lutherem Kingem.

„Je neuctivé a srdcervoucí vidět, jak je obraz mého otce zneužíván takovým nesmyslným způsobem. Nechápu, proč lidé, kteří tuto technologii vyvíjejí, nejednají se stejným svědomím a péčí, jako by jednali za svou vlastní rodinu,“ řekl Shabazz deníku Washington Post .

Sora 2 vytváří videa z obrázků zesnulých lidí bez jejich svolení. Foto: Bloomberg .

Sora 2 se díky své schopnosti vytvářet neuvěřitelně realistická videa rychle stala globálním fenoménem. Během několika dní od spuštění se aplikace vyšplhala na vrchol žebříčků stahování. Její rychlé šíření však také znamenalo, že se na sociálních sítích objevila série falešných videí celebrit.

„Vzkříšené“ snímky Michaela Jacksona, Elvise Presleyho a Amy Winehouse se šířily závratnou rychlostí a mnoho diváků nedokázalo rozlišit mezi pravdou a falešností.

Některá videa mají být vtipná, jako například to, kde moderátor pořadu „Mr. Rogers' Neighborhood“ Fred Rogers rapuje s Tupacem Shakurem. Ale většina vytvořeného obsahu je prostě příliš mnoho.

Mezi nimi video, které zobrazovalo Whitney Houston v opilém stavu skrze falešný úhel z policejní kamery, Kobeho Bryanta létajícího vrtulníkem při nehodě, při níž zahynul on i jeho dcera, a bývalého prezidenta Johna F. Kennedyho, který vtipkoval o atentátu na současného politika, to vše rozzlobilo veřejnost.

Volná pravidla

Zásady OpenAI uvádějí, že nástroj může simulovat skutečné osoby pouze s jejich souhlasem. Při svém nedávném spuštění však společnost z tohoto pravidla vyňala „historické postavy“ a umožnila uživatelům volně vytvářet videa zesnulých osob. Toto rozhodnutí rozzlobilo mnoho rodin obětí.

Zelda Williamsová, dcera zesnulého herce Robina Williamse, se na Instagramu podělila o to, že jí neustále posílají videa s umělou inteligencí o jejím otci a prosí lidi, aby s tím „prosím přestali“.

„Je šílené vidět, jak se odkaz skutečných lidí redukuje na hrozné kousky, zatímco je ovládá TikTok,“ řekla Zelda.

Pravidla OpenAI pro používání Sora 2 jsou plná mezer. Foto: Bloomberg .

Odborníci tvrdí, že tento fenomén odráží zlom v technologii umělé inteligence, kdy se hranice mezi kreativitou a útokem stírá. Henry Ajder, výzkumník deepfake, uvedl, že „syntetické vzkříšení“ mrtvých vyvolává velké otázky ohledně kontroly osobního image a odkazu.

„Pokud k tvorbě obsahu použijete fotografie celebrit, určitě to přiláká zhlédnutí. Ale u zesnulých se to dotýká hlubší otázky: komu patří jejich vzpomínky a identita,“ řekl Ajder.

V reakci na toto pobouření OpenAI uvedla, že umožní zástupcům nedávno zesnulých veřejně známých osobností požádat o zablokování jejich fotografií ve videích Sora. „Věříme, že veřejné osobnosti a jejich rodiny by měly mít kontrolu nad tím, jak jsou jejich fotografie chráněné autorským právem používány,“ uvedl mluvčí OpenAI.

Několik organizací v americkém zábavním průmyslu rovněž vyjádřilo své obavy. Creative Artists Agency, správcovská společnost mnoha hollywoodských hvězd, uvedla, že Sora 2 vážně ohrozila zákazníky a duševní vlastnictví. Americká filmová asociace (MPAA) vyzvala OpenAI, aby podnikla „okamžité a rozhodné“ kroky na ochranu práv tvůrců.

Nejde jen o umělce, oběťmi se staly i historické postavy. Jedno video, které Sora natočil, ukazuje Winstona Churchilla, jak propaguje JetBlue nebo odkazuje na sprosté internetové vtipy.

Zdroj: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html