AI maakt aanstootgevende video bij het 'reanimeren' van de doden

De nieuwe tool van OpenAI voor het maken van video's zorgt voor een crisis onder de families van beroemdheden, omdat AI beelden van overleden dierbaren 'tot leven wekt' in aanstootgevende, vervormde en soms vernederende video's.

Door AI gegenereerde video's van overleden mensen, van Malcolm X tot Whitney Houston en Kobe Bryant, hebben voor ophef gezorgd en vragen opgeroepen over ethische grenzen en beeldcontrole in het tijdperk van AI.

Aanstootgevende inhoud

Ilyasah Shabazz, de dochter van burgerrechtenactivist Malcolm X, zegt dat ze geen door AI gegenereerde clips van haar vader wil zien. Deze video's zijn gemaakt met Sora 2, de onlangs uitgebrachte tekst-naar-videotool van OpenAI, om scènes te creëren waarin Malcolm X grove moppen vertelt en ruzie maakt met dominee Martin Luther King.

"Het is respectloos en hartverscheurend om te zien hoe het imago van mijn vader op zo'n zinloze manier wordt uitgebuit. Ik begrijp niet waarom de mensen die deze technologie ontwikkelen, niet met hetzelfde geweten en dezelfde zorg handelen als voor hun eigen familie", vertelde Shabazz aan de Washington Post .

Sora 2 maakt zonder toestemming video's van afbeeldingen van overleden mensen. Foto: Bloomberg .

Sora 2 werd snel een wereldwijd fenomeen dankzij de mogelijkheid om ongelooflijk realistische video's te maken. Binnen enkele dagen na de lancering schoot de app naar de top van de downloadlijsten. De snelle verspreiding zorgde er echter ook voor dat er een reeks nepvideo's van beroemdheden op sociale media verscheen.

De 'herrezen' beelden van Michael Jackson, Elvis Presley en Amy Winehouse verspreidden zich razendsnel, waardoor veel kijkers het verschil niet meer konden zien tussen echt en nep.

Sommige video's zijn bedoeld om grappig te zijn, zoals die waarin Fred Rogers, presentator van "Mr. Rogers' Neighborhood", rapt met Tupac Shakur. Maar veel van de content die wordt gemaakt, is gewoon te veel.

Enkele van die gebeurtenissen waren een video waarin Whitney Houston dronken werd nagebootst vanuit een nep-hoek van een politiecamera, Kobe Bryant die in een helikopter vloog tijdens het ongeluk waarbij hij en zijn dochter omkwamen, en voormalig president John F. Kennedy die grappen maakte over de moord op een hedendaagse politicus . Dit alles zorgde voor woede in de gemeenschap.

Losse regels

Het beleid van OpenAI stelt dat de tool alleen echte mensen mag simuleren met hun toestemming. Bij de recente lancering heeft het bedrijf echter "historische figuren" vrijgesteld van deze regel, waardoor gebruikers vrijelijk video's van overledenen kunnen maken. Deze beslissing heeft veel nabestaanden van slachtoffers boos gemaakt.

Zelda Williams, de dochter van de overleden acteur Robin Williams, deelde op Instagram dat ze voortdurend AI-video's van haar vader kreeg toegestuurd en mensen smeekte om 'er alsjeblieft mee te stoppen'.

"Het is ongelooflijk om te zien hoe de nalatenschap van echte mensen wordt gereduceerd tot vreselijke capriolen, terwijl TikTok de controle erover heeft", aldus Zelda.

De regels van OpenAI voor het gebruik van Sora 2 zitten vol mazen. Foto: Bloomberg .

Experts zeggen dat het fenomeen een keerpunt in AI-technologie weerspiegelt, waarbij de grens tussen creativiteit en belediging vervaagt. Henry Ajder, een deepfake-onderzoeker, zei dat de "synthetische wederopstanding" van de doden grote vragen oproept over de controle over persoonlijk imago en nalatenschap.

"Als je afbeeldingen van beroemdheden gebruikt om content te creëren, zal dat zeker kijkers trekken. Maar bij overledenen komt een diepere vraag naar voren: wie is de eigenaar van hun herinneringen en identiteit", aldus Ajder.

In reactie op de verontwaardiging zei OpenAI dat het vertegenwoordigers van onlangs overleden publieke figuren de mogelijkheid zou bieden om te verzoeken dat hun afbeeldingen worden geblokkeerd in Sora-video's. "Wij zijn van mening dat publieke figuren en hun families zeggenschap moeten hebben over hoe hun auteursrechtelijk beschermde afbeeldingen worden gebruikt", aldus een woordvoerder van OpenAI.

Verschillende organisaties in de Amerikaanse entertainmentindustrie hebben ook hun zorgen geuit. Creative Artists Agency, het managementbedrijf van veel Hollywoodsterren, stelde dat Sora 2 klanten en intellectueel eigendom ernstig in gevaar brengt. De Motion Picture Association of America (MPAA) riep OpenAI op om "onmiddellijk en daadkrachtig" actie te ondernemen om de rechten van makers te beschermen.

Het zijn niet alleen kunstenaars, ook historische figuren zijn het slachtoffer geworden. In een video die Sora maakte, promoot Winston Churchill JetBlue of verwijst hij naar vieze internetgrappen.

Bron: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html