Sztuczna inteligencja tworzy obraźliwe wideo podczas „ożywiania” zmarłych

Nowe narzędzie OpenAI do tworzenia filmów wideo stawia rodziny celebrytów w obliczu kryzysu, ponieważ sztuczna inteligencja „wskrzesza” wizerunki zmarłych bliskich w obraźliwych, zniekształconych i czasami upokarzających nagraniach wideo.

Filmy przedstawiające zmarłych ludzi, od Malcolma X po Whitney Houston i Kobego Bryanta, wygenerowane przez sztuczną inteligencję, wywołały poruszenie, stawiając pytania o granice etyczne i kontrolę wizerunku w erze sztucznej inteligencji.

Treści obraźliwe

Ilyasah Shabazz, córka działacza na rzecz praw obywatelskich Malcolma X, mówi, że nie chce oglądać żadnych klipów z ojcem generowanych przez sztuczną inteligencję. Filmy te zostały nakręcone za pomocą Sora 2, nowego narzędzia OpenAI do zamiany tekstu na wideo, w celu stworzenia scen, w których Malcolm X opowiada sprośne dowcipy i kłóci się z pastorem Martinem Lutherem Kingiem.

„To brak szacunku i rozdzierające serce, widzieć, jak wizerunek mojego ojca jest wykorzystywany w tak bezsensowny sposób. Nie rozumiem, dlaczego ludzie, którzy opracowują tę technologię, nie działają z takim samym sumieniem i troską, z jaką traktowaliby własną rodzinę” – powiedział Shabazz dziennikowi „Washington Post” .

Sora 2 tworzy filmy z wizerunków zmarłych bez pozwolenia. Zdjęcie: Bloomberg .

Sora 2 szybko stała się globalnym fenomenem dzięki możliwości tworzenia niezwykle realistycznych filmów. W ciągu kilku dni od premiery aplikacja znalazła się na szczycie list przebojów. Jednak jej szybkie rozprzestrzenianie się spowodowało również pojawienie się w mediach społecznościowych serii fałszywych filmów z udziałem celebrytów.

„Wskrzeszone” zdjęcia Michaela Jacksona, Elvisa Presleya i Amy Winehouse rozprzestrzeniły się w zawrotnym tempie, pozostawiając wielu widzów w zakłopotaniu, którzy nie potrafili odróżnić prawdy od fałszu.

Niektóre filmiki mają być zabawne, jak ten, w którym Fred Rogers, prowadzący program „Mr. Rogers' Neighborhood”, rapuje z Tupakiem Shakurem. Jednak większość tworzonych treści jest po prostu przesadzona.

Wśród nich znalazły się nagrania Whitney Houston w stanie nietrzeźwym nagrane pod fałszywym kątem przez policyjną kamerę, Kobe Bryant lecący helikopterem w wypadku, w którym zginął on i jego córka, oraz były prezydent John F. Kennedy żartujący z zamachu na współczesnego polityka. Wszystkie te materiały rozgniewały społeczność.

Luźne przepisy

Polityka OpenAI stanowi, że narzędzie może symulować prawdziwe osoby tylko za ich zgodą. Jednak w swoim niedawnym wydaniu firma wyłączyła z tego przepisu „postacie historyczne”, umożliwiając użytkownikom swobodne tworzenie filmów z udziałem zmarłych. Decyzja ta rozgniewała wiele rodzin ofiar.

Zelda Williams, córka zmarłego aktora Robina Williamsa, napisała na Instagramie, że stale otrzymuje nagrania swojego ojca generowane przez sztuczną inteligencję i błaga ludzi, aby „przestali”.

„To szaleństwo widzieć, jak dziedzictwo prawdziwych ludzi zostaje sprowadzone do okropnych wybryków, nad którymi kontrolę sprawuje TikTok” – powiedziała Zelda.

Zasady OpenAI dotyczące korzystania z Sora 2 są pełne luk. Zdjęcie: Bloomberg .

Eksperci twierdzą, że zjawisko to odzwierciedla punkt zwrotny w technologii sztucznej inteligencji, w którym granica między kreatywnością a atakiem zaciera się. Henry Ajder, badacz deepfake'ów, powiedział, że „syntetyczne zmartwychwstanie” zmarłych rodzi poważne pytania dotyczące kontroli nad osobistym wizerunkiem i dziedzictwem.

„Jeśli wykorzystujesz wizerunki celebrytów do tworzenia treści, z pewnością przyciągniesz uwagę. Ale w przypadku zmarłych porusza to głębsze pytanie: kto jest właścicielem ich wspomnień i tożsamości” – powiedział Ajder.

W odpowiedzi na protesty, OpenAI zadeklarowało, że umożliwi przedstawicielom niedawno zmarłych osób publicznych wnioskowanie o zablokowanie ich wizerunków w filmach Sora. „Uważamy, że osoby publiczne i ich rodziny powinny mieć kontrolę nad tym, jak wykorzystywane są ich chronione prawami autorskimi wizerunki” – powiedział rzecznik OpenAI.

Kilka organizacji z amerykańskiego przemysłu rozrywkowego również wyraziło swoje obawy. Agencja Creative Artists Agency, firma zarządzająca wieloma hollywoodzkimi gwiazdami, stwierdziła, że Sora 2 naraziła klientów i własność intelektualną na poważne ryzyko. Stowarzyszenie Motion Picture Association of America (MPAA) wezwało OpenAI do podjęcia „natychmiastowych i zdecydowanych” działań w celu ochrony praw twórców.

Nie tylko artyści, ale i postacie historyczne padły ofiarą. W jednym z filmów stworzonych przez Sorę widać, jak Winston Churchill promuje JetBlue lub nawiązuje do sprośnych żartów z internetu.

Treści obraźliwe

Luźne przepisy

Komentarz (0)