A mesterséges intelligencia sértő videót készít, amikor „feléleszti” a halottakat

Az OpenAI új videókészítő eszköze válságba sodorja a hírességek családjait, mivel az elhunyt szeretteik képeit a mesterséges intelligencia sértő, torz és néha megalázó videókban „támasztja fel”.

Az elhunyt emberekről – Malcolm X-től Whitney Houstonon át Kobe Bryantig – mesterséges intelligencia által generált videók nagy port kavartak, kérdéseket vetve fel az etikai határokkal és a képalkotás feletti ellenőrzéssel kapcsolatban a mesterséges intelligencia korában.

Sértő tartalom

Ilyasah Shabazz, Malcolm X polgárjogi aktivista lánya azt mondja, nem akar mesterséges intelligencia által generált klipeket látni az apjáról. Ezeket a videókat a Sora 2-vel, az OpenAI újonnan kiadott szöveg-videó eszközével készítették, hogy jeleneteket hozzanak létre Malcolm X durva vicceket mesélve és Martin Luther King tiszteletessel vitatkozva.

„Tiszteletlen és szívszorító látni, hogy apám imázsát ilyen értelmetlen módon kihasználják. Nem értem, miért nem cselekszenek ugyanazzal a lelkiismerettel és gondoskodással azok az emberek, akik ezt a technológiát fejlesztik, mint a saját családjukkal” – mondta Shabazz a Washington Postnak .

A Sora 2 engedély nélkül készít videókat elhunyt emberek képeiből. Fotó: Bloomberg .

A Sora 2 gyorsan globális jelenséggé vált, köszönhetően a hihetetlenül realisztikus videók készítésének képességének. A megjelenését követő napokon belül az alkalmazás a letöltési listák élére ugrott. A gyors elterjedése azonban azt is jelentette, hogy egy sor hamis hírességvideó jelent meg a közösségi médiában.

Michael Jackson, Elvis Presley és Amy Winehouse „feltámasztott” képei szédítő sebességgel terjedtek, sok nézőt pedig képtelenné téve különbséget tenni a valódi és a hamis között.

Néhány videónak viccesnek kell lennie, mint például az, amelyben a „Mr. Rogers' Neighborhood” műsorvezetője, Fred Rogers Tupac Shakurral rappel. De a létrehozott tartalom nagy része egyszerűen túl sok.

Többek között egy videó, amelyen Whitney Houstont ittas állapotban, egy rendőrségi kamerából egy hamis szögből mutatják be, Kobe Bryant helikopterrel repül a balesetben, amelyben ő és lánya meghalt, valamint John F. Kennedy volt elnök, aki egy kortárs politikus meggyilkolásával viccelődött, mind felháborította a közösséget.

Laza szabályozások

Az OpenAI szabályzata kimondja, hogy az eszköz csak a beleegyezésükkel képes valódi embereket szimulálni. A legutóbbi bevezetésekor azonban a vállalat mentesítette a „történelmi személyeket” e szabály alól, lehetővé téve a felhasználók számára, hogy szabadon készítsenek videókat elhunyt emberekről. Ez a döntés sok áldozat családját felháborította.

Zelda Williams, a néhai Robin Williams színész lánya az Instagramon osztotta meg, hogy folyamatosan mesterséges intelligencia által készített videókat küldtek neki apjáról, és könyörgött az embereknek, hogy „kérlek, hagyjátok abba”.

„Őrület látni, ahogy valódi emberek öröksége szörnyű bohóckodásokká redukálódik, miközben a TikTok irányítja őket” – mondta Zelda.

Az OpenAI Sora 2 használatára vonatkozó szabályai tele vannak kiskapukkal. Fotó: Bloomberg .

Szakértők szerint a jelenség a mesterséges intelligencia technológiájának egy fordulópontját tükrözi, ahol elmosódik a határ a kreativitás és a sértődés között. Henry Ajder, a deepfake kutatója szerint a halottak „szintetikus feltámasztása” nagy kérdéseket vet fel a személyes imázs és örökség feletti kontrollal kapcsolatban.

„Ha hírességek képeit használjuk fel tartalomkészítéshez, az mindenképpen vonzza a nézettséget. De az elhunytak esetében ez egy mélyebb kérdést érint: kié az emlékük és az identitásuk” – mondta Ajder.

A felháborodásra válaszul az OpenAI közölte, hogy lehetővé teszi a nemrég elhunyt közéleti személyiségek képviselői számára, hogy kérjék képeik blokkolását a Sora-videókban. „Úgy gondoljuk, hogy a közéleti személyiségeknek és családtagjaiknak kell rendelkezniük a szerzői joggal védett képeik felhasználásának módjáról” – mondta az OpenAI szóvivője.

Az amerikai szórakoztatóipar számos szervezete is aggodalmának adott hangot. A Creative Artists Agency, számos hollywoodi sztár menedzsercége szerint a Sora 2 komoly veszélybe sodorta az ügyfeleket és a szellemi tulajdont. Az Amerikai Mozgókép Szövetség (MPAA) felszólította az OpenAI-t, hogy tegyen „azonnali és határozott” lépéseket az alkotók jogainak védelme érdekében.

Nem csak művészek, történelmi személyiségek is áldozatul estek ennek. Az egyik videó, amit Sora készített, Winston Churchillt mutatja be, amint a JetBlue-t reklámozza, vagy mocskos internetes viccekre hivatkozik.

Sértő tartalom

Laza szabályozások

Hozzászólás (0)