IA cria vídeo ofensivo ao 'reviver' os mortos

O gerador de vídeos Sora 2 da OpenAI gerou polêmica ao criar imagens de celebridades falecidas em vídeos perturbadores, irritando muitas famílias.

A nova ferramenta de criação de vídeos da OpenAI está colocando famílias de celebridades em crise, já que imagens de entes queridos falecidos são "ressuscitadas" pela IA em vídeos ofensivos, distorcidos e, às vezes, humilhantes.

Vídeos de pessoas falecidas gerados por IA, de Malcolm X a Whitney Houston e Kobe Bryant, causaram comoção, levantando questões sobre limites éticos e controle de imagem na era da IA.

Conteúdo ofensivo

Ilyasah Shabazz, filha do ativista dos direitos civis Malcolm X, diz que não quer ver nenhum clipe de seu pai gerado por IA. Esses vídeos foram feitos usando o Sora 2, a ferramenta de conversão de texto em vídeo recém-lançada pela OpenAI, para criar cenas de Malcolm X contando piadas grosseiras e discutindo com o reverendo Martin Luther King.

"É desrespeitoso e doloroso ver a imagem do meu pai explorada de forma tão insensata. Não entendo por que as pessoas que desenvolvem essa tecnologia não agem com a mesma consciência e cuidado que agiriam com suas próprias famílias", disse Shabazz ao Washington Post .

Sora 2 cria vídeos a partir de imagens de pessoas falecidas sem permissão. Foto: Bloomberg .

O Sora 2 rapidamente se tornou um fenômeno global graças à sua capacidade de criar vídeos incrivelmente realistas. Poucos dias após seu lançamento, o aplicativo disparou para o topo das paradas de downloads. No entanto, sua rápida disseminação também fez com que uma série de vídeos falsos de celebridades aparecessem nas redes sociais.

As imagens "ressuscitadas" de Michael Jackson, Elvis Presley e Amy Winehouse se espalharam em uma velocidade vertiginosa, deixando muitos espectadores incapazes de distinguir entre o real e o falso.

Alguns vídeos são feitos para serem engraçados, como aquele em que o apresentador do "Bairro do Sr. Rogers", Fred Rogers, faz um rap com Tupac Shakur. Mas grande parte do conteúdo criado é simplesmente demais.

Entre eles, um vídeo recriando Whitney Houston em estado de embriaguez através de um ângulo falso de uma câmera policial, Kobe Bryant voando em um helicóptero no acidente que matou ele e sua filha, e o ex-presidente John F. Kennedy brincando sobre o assassinato de um político contemporâneo, tudo isso deixou a comunidade furiosa.

Regulamentações frouxas

A política da OpenAI estabelece que a ferramenta só pode simular pessoas reais com o consentimento delas. No entanto, em seu lançamento recente, a empresa isentou "figuras históricas" dessa regra, permitindo que os usuários criassem livremente vídeos de pessoas falecidas. Essa decisão irritou muitas famílias de vítimas.

Zelda Williams, filha do falecido ator Robin Williams, compartilhou no Instagram que recebia constantemente vídeos de IA de seu pai e implorava para que as pessoas "parassem, por favor".

“É uma loucura ver o legado de pessoas reais reduzido a palhaçadas horríveis onde o TikTok as controla”, disse Zelda.

As regras da OpenAI sobre o uso do Sora 2 estão cheias de brechas. Foto: Bloomberg .

Especialistas afirmam que o fenômeno reflete um ponto de virada na tecnologia de IA, onde a linha entre criatividade e ofensa se torna tênue. Henry Ajder, pesquisador de deepfakes, disse que a "ressurreição sintética" dos mortos levanta grandes questões sobre o controle da imagem pessoal e do legado.

"Se você usar imagens de celebridades para criar conteúdo, certamente atrairá visualizações. Mas, com os falecidos, isso toca em uma questão mais profunda: quem é o dono de suas memórias e identidade", disse Ajder.

Em resposta à indignação, a OpenAI afirmou que permitiria que representantes de figuras públicas recentemente falecidas solicitassem o bloqueio de suas imagens nos vídeos do Sora. "Acreditamos que figuras públicas e suas famílias devem ter controle sobre como suas imagens protegidas por direitos autorais são usadas", disse um porta-voz da OpenAI.

Diversas organizações da indústria do entretenimento dos EUA também expressaram suas preocupações. A Creative Artists Agency, empresa de gestão de muitas estrelas de Hollywood, afirmou que Sora 2 colocou os clientes e a propriedade intelectual em sério risco. A Motion Picture Association of America (MPAA) pediu à OpenAI que tome medidas "imediatas e decisivas" para proteger os direitos dos criadores.

Não são apenas artistas, figuras históricas também foram vítimas. Um vídeo criado por Sora mostra Winston Churchill promovendo a JetBlue ou fazendo referência a piadas obscenas da internet.

Fonte: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html