AI skapar stötande videor genom att "återuppväcka" de döda.

OpenAIs nya verktyg för videoskapande orsakar oro för många kändisfamiljer då bilder av avlidna nära och kära "återupplivas" av AI i stötande, förvrängda och ibland förödmjukande videor.

AI-genererade videoklipp som simulerar avlidna personer, från Malcolm X och Whitney Houston till Kobe Bryant, har väckt upprördhet. Detta väcker frågor om etiska gränser och kontroll över bilder i AI-åldern.

Stötande innehåll

Ilyasah Shabazz, dotter till medborgarrättsaktivisten Malcolm X, säger att hon inte vill se några AI-genererade klipp av sin far. Dessa videor, skapade med Sora 2, OpenAI:s nyligen lanserade text-till-video-verktyg, visar Malcolm X berätta grova skämt och argumentera med pastor Martin Luther King.

"Det är respektlöst och hjärtskärande att se min fars image utnyttjas på ett så känslolöst sätt. Jag förstår inte varför de människor som utvecklat den här tekniken inte kan agera med samma samvete och omsorg som de skulle visa sina egna familjer", sa Shabazz till Washington Post .

Sora 2 skapar videor från bilder på avlidna personer utan deras tillstånd. Foto: Bloomberg .

Sora 2 blev snabbt ett globalt fenomen tack vare sin förmåga att skapa otroligt realistiska videor. Inom några dagar efter lanseringen toppade appen nedladdningslistor. Denna snabba spridning innebar dock också att en flod av falska kändisvideor dök upp på sociala medier.

Bilder på "återuppståndna" Michael Jackson, Elvis Presley eller Amy Winehouse spreds blixtsnabbt, vilket gjorde det svårt för många tittare att skilja mellan äkta och falskt.

Vissa videor skapas med avsikten att vara roliga, som scenen där programledaren för "Mr. Rogers' Neighborhood" Fred Rogers rappar med Tupac Shakur. Men majoriteten av det skapade innehållet går utöver acceptabla gränser.

Bland dem orsakade en video som visar Whitney Houston i berusat tillstånd med hjälp av falska kamerabilder från en poliskamera, Kobe Bryant som flyger i helikoptern under olyckan som dödade honom och hans dotter, eller den tidigare presidenten John F. Kennedy som skämtar om mordet på en samtida politiker , alla en upprördhet.

Laxa regler

Enligt OpenAI:s policy får verktyget endast simulera verkliga personer med deras samtycke. I den senaste lanseringen gjorde dock företaget undantag från denna regel för "historiska personer", vilket gör det möjligt för användare att fritt skapa videor om avlidna personer. Detta beslut har gjort många av offrens familjer ilska.

Zelda Williams, dotter till den bortgångne skådespelaren Robin Williams, delade på Instagram att hon ständigt får AI-videor av sin far skickade till sig och vädjade till folk att "sluta".

"Det är vansinnigt att se arvet av riktiga människor reduceras till fruktansvärda farser där TikTok kontrollerar dem", sa Zelda.

OpenAI:s regler gällande användningen av Sora 2 har många kryphål. Foto: Bloomberg .

Experter tror att detta fenomen återspeglar en vändpunkt inom AI-tekniken, där gränserna mellan kreativitet och offensivitet suddas ut. Henry Ajder, en deepfake-forskare, menar att den "syntetiska uppståndelsen" av avlidna individer väcker stora frågor om kontroll över personliga bilder och arv.

”Om man använder bilder av kändisar för att skapa innehåll, lockar det verkligen till sig visningar. Men med de avlidna berör det en djupare fråga: vem äger deras minnen och identitet?” sa Ajder.

Som svar på motreaktionen sa OpenAI att de skulle tillåta representanter för nyligen avlidna offentliga personer att begära att deras bilder blockeras från Sora-videor. ”Vi anser att offentliga personer och deras familjer ska ha kontroll över hur deras bilder är upphovsrättsskyddade”, sa en talesperson för OpenAI.

Många organisationer inom den amerikanska underhållningsindustrin har också uttryckt sin oro. Creative Artists Agency, ett företag som hanterar många Hollywoodstjärnor, uppgav att Sora 2 har satt kunder och immateriella rättigheter i allvarlig risk. Motion Picture Association of America (MPAA) uppmanade OpenAI att vidta "omedelbara och avgörande" åtgärder för att skydda skaparnas rättigheter.

Det är inte bara konstnärer; historiska personer har också blivit offer. En video skapad av Sora visar Winston Churchill som marknadsför JetBlue Airlines eller nämner obscena skämt på internet.

Källa: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html