A IA cria vídeos ofensivos ao "ressuscitar" os mortos.

A nova ferramenta de criação de vídeos da OpenAI está causando crise em famílias de celebridades, já que imagens de entes queridos falecidos estão sendo "ressuscitadas" por inteligência artificial em vídeos ofensivos, distorcidos e, às vezes, humilhantes.

Vídeos gerados por inteligência artificial de pessoas falecidas, de Malcolm X a Whitney Houston e Kobe Bryant, causaram polêmica, levantando questões sobre limites éticos e controle de imagem na era da IA.

Conteúdo ofensivo

Ilyasah Shabazz, filha do ativista dos direitos civis Malcolm X, afirma que não quer ver nenhum vídeo gerado por inteligência artificial de seu pai. Esses vídeos foram criados usando o Sora 2, ferramenta de conversão de texto em vídeo recém-lançada pela OpenAI, para gerar cenas de Malcolm X contando piadas grosseiras e discutindo com o Reverendo Martin Luther King.

“É desrespeitoso e doloroso ver a imagem do meu pai sendo explorada de uma forma tão insensata. Não entendo por que as pessoas que desenvolvem essa tecnologia não agem com a mesma consciência e cuidado que teriam com a própria família”, disse Shabazz ao Washington Post .

Sora 2 cria vídeos a partir de imagens de pessoas falecidas sem autorização. Foto: Bloomberg .

O Sora 2 rapidamente se tornou um fenômeno global graças à sua capacidade de criar vídeos incrivelmente realistas. Em poucos dias após o lançamento, o aplicativo disparou para o topo das listas de downloads. No entanto, sua rápida disseminação também fez com que uma série de vídeos falsos de celebridades surgisse nas redes sociais.

As imagens "ressuscitadas" de Michael Jackson, Elvis Presley e Amy Winehouse se espalharam a uma velocidade vertiginosa, deixando muitos espectadores incapazes de distinguir entre o real e o falso.

Alguns vídeos têm a intenção de serem engraçados, como aquele em que o apresentador do programa "Mr. Rogers' Neighborhood", Fred Rogers, faz um rap com Tupac Shakur. Mas grande parte do conteúdo produzido é simplesmente exagerado.

Entre eles, um vídeo recriando Whitney Houston em estado de embriaguez através de um ângulo falso de uma câmera policial, Kobe Bryant voando em um helicóptero no acidente que o matou e a sua filha, e o ex-presidente John F. Kennedy fazendo piada sobre o assassinato de um político contemporâneo, tudo isso irritou a comunidade.

Regulamentos frouxos

A política da OpenAI afirma que a ferramenta só pode simular pessoas reais com o consentimento delas. No entanto, em seu lançamento recente, a empresa isentou "figuras históricas" dessa regra, permitindo que os usuários criem vídeos de pessoas falecidas livremente. Essa decisão enfureceu muitas famílias de vítimas.

Zelda Williams, filha do falecido ator Robin Williams, compartilhou no Instagram que recebia constantemente vídeos de inteligência artificial de seu pai e implorou às pessoas que "por favor, parassem".

“É inacreditável ver o legado de pessoas reais reduzido a palhaçadas horríveis controladas pelo TikTok”, disse Zelda.

As regras da OpenAI para o uso do Sora 2 estão cheias de brechas. Foto: Bloomberg .

Especialistas afirmam que o fenômeno reflete um ponto de virada na tecnologia de IA, onde a linha entre criatividade e ofensa se torna tênue. Henry Ajder, pesquisador de deepfakes, disse que a “ressurreição sintética” dos mortos levanta grandes questões sobre o controle da imagem pessoal e do legado.

“Se você usar imagens de celebridades para criar conteúdo, certamente atrairá visualizações. Mas, no caso dos falecidos, surge uma questão mais profunda: a quem pertencem suas memórias e identidade?”, disse Ajder.

Em resposta à indignação, a OpenAI afirmou que permitiria que representantes de figuras públicas falecidas recentemente solicitassem que suas imagens fossem bloqueadas nos vídeos da Sora. "Acreditamos que figuras públicas e suas famílias devem ter controle sobre como suas imagens protegidas por direitos autorais são usadas", disse um porta-voz da OpenAI.

Diversas organizações da indústria do entretenimento dos EUA também manifestaram suas preocupações. A Creative Artists Agency, empresa que gerencia muitos astros de Hollywood, afirmou que o Sora 2 colocou clientes e propriedade intelectual em sério risco. A Motion Picture Association of America (MPAA) pediu à OpenAI que tome medidas “imediatas e decisivas” para proteger os direitos dos criadores.

Não são apenas os artistas, figuras históricas também foram vítimas. Um vídeo criado por Sora mostra Winston Churchill promovendo a JetBlue ou fazendo referência a piadas obscenas da internet.

Fonte: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html