Sztuczna inteligencja tworzy obraźliwe filmy poprzez „wskrzeszanie” zmarłych.

Nowe narzędzie OpenAI do tworzenia filmów wideo wywołuje niepokój wśród wielu rodzin celebrytów, ponieważ sztuczna inteligencja „wskrzesza” w nich obrazy zmarłych bliskich w obraźliwych, zniekształconych i czasami upokarzających nagraniach wideo.

Filmy generowane przez sztuczną inteligencję, symulujące zmarłe postacie, od Malcolma X i Whitney Houston po Kobego Bryanta, wywołały oburzenie. Rodzi to pytania o granice etyczne i kontrolę nad obrazami w dobie sztucznej inteligencji.

Treści obraźliwe

Ilyasah Shabazz, córka działacza na rzecz praw obywatelskich Malcolma X, mówi, że nie chce oglądać żadnych klipów z ojcem generowanych przez sztuczną inteligencję. Filmy te, stworzone za pomocą Sora 2, nowego narzędzia OpenAI do zamiany tekstu na wideo, przedstawiają Malcolma X opowiadającego sprośne dowcipy i kłócącego się z pastorem Martinem Lutherem Kingiem.

„To brak szacunku i rozdzierające serce, widzieć, jak wizerunek mojego ojca jest wykorzystywany w tak bezduszny sposób. Nie rozumiem, dlaczego ludzie, którzy opracowali tę technologię, nie mogą działać z takim samym sumieniem i troską, z jaką traktowaliby swoje własne rodziny” – powiedział Shabazz dziennikowi „ Washington Post” .

Sora 2 tworzy filmy z wizerunków zmarłych osób bez ich zgody. Zdjęcie: Bloomberg .

Sora 2 szybko stała się globalnym fenomenem dzięki możliwości tworzenia niezwykle realistycznych filmów. W ciągu kilku dni od premiery aplikacja znalazła się na szczycie list przebojów. Jednak tak szybkie rozprzestrzenianie się aplikacji spowodowało również pojawienie się w mediach społecznościowych mnóstwa fałszywych filmów z udziałem celebrytów.

Zdjęcia „wskrzeszonego” Michaela Jacksona, Elvisa Presleya czy Amy Winehouse rozprzestrzeniają się z prędkością błyskawicy, przez co wielu widzów ma trudności z odróżnieniem prawdziwych zdjęć od fałszywych.

Niektóre filmy są tworzone z myślą o zabawie, jak na przykład scena, w której Fred Rogers, prowadzący program „Mr. Rogers' Neighborhood”, rapuje z Tupakiem Shakurem. Jednak większość tworzonych treści wykracza poza akceptowalne granice.

Oburzenie opinii publicznej wywołały m.in. nagrania wideo przedstawiające Whitney Houston w stanie nietrzeźwym, na których wykorzystano sfabrykowane nagranie z policyjnej kamery, Kobe Bryant lecący helikopterem podczas wypadku, w którym zginął on i jego córka, czy też były prezydent John F. Kennedy żartujący z zamachu na współczesnego polityka .

Luźne przepisy

Zgodnie z polityką OpenAI, narzędzie może symulować prawdziwe osoby wyłącznie za ich zgodą. Jednak w swoim niedawnym wydaniu firma wyłączyła tę zasadę z zakresu „postaci historycznych”, umożliwiając użytkownikom swobodne tworzenie filmów o zmarłych osobach. Decyzja ta rozgniewała wiele rodzin ofiar.

Zelda Williams, córka zmarłego aktora Robina Williamsa, poinformowała na Instagramie, że stale otrzymuje nagrania swojego ojca generowane przez sztuczną inteligencję i zaapelowała do ludzi, aby „przestali”.

„To szaleństwo patrzeć, jak dziedzictwo prawdziwych ludzi zostaje sprowadzone do makabrycznych fars, w których kontrolę nad nimi sprawuje TikTok” – powiedziała Zelda.

Przepisy OpenAI dotyczące korzystania z Sora 2 mają wiele luk. Zdjęcie: Bloomberg .

Eksperci uważają, że zjawisko to odzwierciedla punkt zwrotny w technologii sztucznej inteligencji, w którym zacierają się granice między kreatywnością a obraźliwością. Henry Ajder, badacz deepfake'ów, twierdzi, że „syntetyczne wskrzeszenie” zmarłych osób rodzi poważne pytania dotyczące kontroli nad osobistym wizerunkiem i spuścizną.

„Jeśli wykorzystujesz wizerunki celebrytów do tworzenia treści, z pewnością przyciąga to uwagę. Ale w przypadku zmarłych porusza to głębsze pytanie: kto jest właścicielem ich wspomnień i tożsamości?” – powiedział Ajder.

W odpowiedzi na krytykę, OpenAI zadeklarowało, że umożliwi przedstawicielom niedawno zmarłych osób publicznych wnioskowanie o zablokowanie ich wizerunków w filmach Sora. „Uważamy, że osoby publiczne i ich rodziny powinny mieć kontrolę nad tym, jak chronione są prawa autorskie do ich wizerunków” – powiedział rzecznik OpenAI.

Wiele organizacji z amerykańskiego przemysłu rozrywkowego również wyraziło swoje zaniepokojenie. Agencja Creative Artists Agency, firma zarządzająca wieloma gwiazdami Hollywood, stwierdziła, że Sora 2 naraziła klientów i własność intelektualną na poważne ryzyko. Stowarzyszenie Motion Picture Association of America (MPAA) wezwało OpenAI do podjęcia „natychmiastowych i zdecydowanych” działań w celu ochrony praw twórców.

Nie tylko artyści; ofiarami padły również postacie historyczne. Film stworzony przez Sorę pokazuje Winstona Churchilla promującego linie lotnicze JetBlue Airlines lub opowiadającego obsceniczne dowcipy w internecie.

Źródło: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html