AI skapar stötande video när den "återupplivar" döda

OpenAIs nya verktyg för videoskapande försätter kändisfamiljer i en kris då bilder av avlidna nära och kära "återupplivas" av AI i stötande, förvrängda och ibland förödmjukande videor.

AI-genererade videor av avlidna personer, från Malcolm X till Whitney Houston till Kobe Bryant, har orsakat uppståndelse och väckt frågor om etiska gränser och bildkontroll i AI:s tidsålder.

Stötande innehåll

Ilyasah Shabazz, dotter till medborgarrättsaktivisten Malcolm X, säger att hon inte vill se några AI-genererade klipp av sin far. Dessa videor gjordes med Sora 2, OpenAI:s nyligen släppta text-till-video-verktyg, för att skapa scener där Malcolm X berättar grova skämt och argumenterar med pastor Martin Luther King.

”Det är respektlöst och hjärtskärande att se min fars bild utnyttjas på ett så meningslöst sätt. Jag förstår inte varför de människor som utvecklar den här tekniken inte agerar med samma samvete och omsorg som de skulle ha för sin egen familj”, sa Shabazz till Washington Post .

Sora 2 skapar videor från bilder på avlidna personer utan tillstånd. Foto: Bloomberg .

Sora 2 blev snabbt ett globalt fenomen tack vare sin förmåga att skapa otroligt realistiska videor. Inom några dagar efter lanseringen sköt appen upp till toppen av nedladdningslistor. Men dess snabba spridning innebar också att en serie falska kändisvideor dök upp på sociala medier.

De "återuppväckta" bilderna av Michael Jackson, Elvis Presley och Amy Winehouse spreds i en svindlande hastighet, vilket gjorde att många tittare inte kunde skilja mellan äkta och falskt.

Vissa videor är menade att vara roliga, som den där programledaren för "Mr. Rogers' Neighborhood" Fred Rogers rappar med Tupac Shakur. Men mycket av innehållet som skapas är helt enkelt för mycket.

Bland dem gjorde en video som återskapade Whitney Houston i berusat tillstånd genom en falsk vinkel från en poliskamera, Kobe Bryant som flög i en helikopter i olyckan som dödade honom och hans dotter, och förre presidenten John F. Kennedy som skämtade om mordet på en samtida politiker alla samhället argt.

Lösa regleringar

OpenAI:s policy anger att verktyget endast kan simulera riktiga människor med deras samtycke. I den senaste lanseringen undantog dock företaget "historiska personer" från denna regel, vilket gör det möjligt för användare att fritt skapa videor av avlidna personer. Detta beslut har gjort många av offrens familjer ilska.

Zelda Williams, dotter till den bortgångne skådespelaren Robin Williams, delade på Instagram att hon ständigt fick AI-videor av sin far tillsända och bad folk att "snälla sluta".

"Det är galet att se riktiga människors arv reduceras till hemska upptåg där TikTok kontrollerar dem", sa Zelda.

OpenAI:s regler för användning av Sora 2 är fulla av kryphål. Foto: Bloomberg .

Experter säger att fenomenet återspeglar en vändpunkt inom AI-tekniken, där gränsen mellan kreativitet och kränkning suddas ut. Henry Ajder, en deepfake-forskare, sa att den "syntetiska uppståndelsen" av de döda väcker stora frågor om kontroll över personlig image och arv.

”Om man använder kändisbilder för att skapa innehåll kommer det definitivt att locka visningar. Men med de avlidna berör det en djupare fråga: vem äger deras minnen och identitet”, sa Ajder.

Som svar på protesterna sa OpenAI att de skulle tillåta representanter för nyligen avlidna offentliga personer att begära att deras bilder blockeras från Sora-videor. ”Vi anser att offentliga personer och deras familjer ska ha kontroll över hur deras upphovsrättsskyddade bilder används”, sa en talesperson för OpenAI.

Flera organisationer inom den amerikanska underhållningsindustrin har också uttryckt sin oro. Creative Artists Agency, förvaltningsbolaget för många Hollywoodstjärnor, sa att Sora 2 har satt kunder och immateriella rättigheter i allvarlig risk. Motion Picture Association of America (MPAA) uppmanade OpenAI att vidta "omedelbara och avgörande" åtgärder för att skydda skaparnas rättigheter.

Det är inte bara konstnärer, även historiska personer har fallit offer. En video som Sora skapat visar Winston Churchill marknadsföra JetBlue eller referera till snuskiga internetskämt.

Källa: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html