AI lager støtende video når den «gjenoppliver» de døde

OpenAIs nye videoverktøy sender kjendisfamilier inn i en krise ettersom bilder av avdøde kjære blir «gjenopplivet» av AI i støtende, forvrengte og noen ganger ydmykende videoer.

AI-genererte videoer av avdøde mennesker, fra Malcolm X til Whitney Houston til Kobe Bryant, har skapt oppstyr og reist spørsmål om etiske grenser og bildekontroll i AI-tidsalderen.

Støtende innhold

Ilyasah Shabazz, datteren til borgerrettighetsaktivisten Malcolm X, sier at hun ikke ønsker å se noen AI-genererte klipp av faren sin. Disse videoene ble laget med Sora 2, OpenAIs nylig utgitte tekst-til-video-verktøy, for å lage scener av Malcolm X som forteller grove vitser og krangler med pastor Martin Luther King.

«Det er respektløst og hjerteskjærende å se at min fars image blir utnyttet på en så meningsløs måte. Jeg forstår ikke hvorfor menneskene som utvikler denne teknologien ikke handler med samme samvittighet og omsorg som de ville gjort for sin egen familie», sa Shabazz til Washington Post .

Sora 2 lager videoer fra bilder av avdøde personer uten tillatelse. Foto: Bloomberg .

Sora 2 ble raskt et globalt fenomen takket være evnen til å lage utrolig realistiske videoer. I løpet av få dager etter lanseringen skøyt appen til topps på nedlastingslistene. Den raske spredningen medførte imidlertid også at en rekke falske kjendisvideoer dukket opp på sosiale medier.

De «gjenoppståtte» bildene av Michael Jackson, Elvis Presley og Amy Winehouse spredte seg i en svimlende hastighet, og mange seere klarte ikke å skille mellom ekte og falskt.

Noen videoer er ment å være morsomme, som den der programlederen for «Mr. Rogers' Neighborhood», Fred Rogers, rapper med Tupac Shakur. Men mye av innholdet som lages er rett og slett for mye.

Blant dem gjorde en video som gjenskapte Whitney Houston i beruset tilstand gjennom en falsk vinkel fra et politikamera, Kobe Bryant som fløy i et helikopter i ulykken som drepte ham og datteren hans, og tidligere president John F. Kennedy som spøkte om attentatet på en samtidig politiker, alt dette samfunnet rasende.

Løse forskrifter

OpenAIs retningslinjer slår fast at verktøyet kun kan simulere virkelige personer med deres samtykke. I den nylige lanseringen unntok imidlertid selskapet «historiske personer» fra denne regelen, slik at brukerne fritt kan lage videoer av avdøde personer. Denne avgjørelsen har gjort mange ofrenes familier sinte.

Zelda Williams, datter av den avdøde skuespilleren Robin Williams, delte på Instagram at hun stadig fikk tilsendt AI-videoer av faren sin og ba folk om å «vær så snill å slutte».

«Det er sprøtt å se arven etter ekte mennesker redusert til forferdelige påfunn der TikTok kontrollerer dem», sa Zelda.

OpenAIs regler for bruk av Sora 2 er fulle av smutthull. Foto: Bloomberg .

Eksperter sier at fenomenet gjenspeiler et vendepunkt innen AI-teknologi, der grensen mellom kreativitet og krenkelse blir uklar. Henry Ajder, en deepfake-forsker, sa at den «syntetiske oppstandelsen» av de døde reiser store spørsmål om kontroll over personlig image og arv.

«Hvis du bruker kjendisbilder til å lage innhold, vil det definitivt tiltrekke seg visninger. Men med avdøde berører det et dypere spørsmål: hvem eier minnene og identiteten deres», sa Ajder.

Som svar på protestene sa OpenAI at de ville tillate representanter for nylig avdøde offentlige personer å be om at bildene deres blokkeres fra Sora-videoer. «Vi mener at offentlige personer og deres familier bør ha kontroll over hvordan deres opphavsrettsbeskyttede bilder brukes», sa en talsperson for OpenAI.

Flere organisasjoner i den amerikanske underholdningsbransjen har også uttrykt bekymring. Creative Artists Agency, administrasjonsselskapet for mange Hollywood-stjerner, sa at Sora 2 har satt kunder og åndsverk i alvorlig fare. Motion Picture Association of America (MPAA) oppfordret OpenAI til å iverksette «umiddelbare og avgjørende» tiltak for å beskytte skapernes rettigheter.

Det er ikke bare kunstnere, historiske personer har også blitt ofre. En video Sora har laget viser Winston Churchill som promoterer JetBlue eller refererer til skitne internettvitser.

Kilde: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html