A nova ferramenta de criação de vídeos da OpenAI está causando angústia a muitas famílias de celebridades, já que imagens de entes queridos falecidos estão sendo "ressuscitadas" por inteligência artificial em vídeos ofensivos, distorcidos e, às vezes, humilhantes.
Vídeos gerados por inteligência artificial simulando figuras falecidas, de Malcolm X e Whitney Houston a Kobe Bryant, provocaram indignação. Isso levanta questões sobre limites éticos e controle de imagens na era da inteligência artificial.
Conteúdo ofensivo
Ilyasah Shabazz, filha do ativista dos direitos civis Malcolm X, afirma que não quer ver nenhum vídeo de seu pai gerado por inteligência artificial. Esses vídeos, criados com o Sora 2, ferramenta de conversão de texto em vídeo recém-lançada pela OpenAI, mostram Malcolm X contando piadas grosseiras e discutindo com o Reverendo Martin Luther King.
"É desrespeitoso e doloroso ver a imagem do meu pai sendo explorada de forma tão cruel. Não entendo por que as pessoas que desenvolveram essa tecnologia não podem agir com a mesma consciência e cuidado que teriam com suas próprias famílias", disse Shabazz ao Washington Post .
 |
Sora 2 cria vídeos a partir de imagens de pessoas falecidas sem a permissão delas. Foto: Bloomberg . |
O Sora 2 rapidamente se tornou um fenômeno global graças à sua capacidade de criar vídeos incrivelmente realistas. Em poucos dias após o lançamento, o aplicativo alcançou o topo das listas de downloads. No entanto, essa rápida disseminação também significou o surgimento de uma enxurrada de vídeos falsos de celebridades nas redes sociais.
Imagens de Michael Jackson, Elvis Presley ou Amy Winehouse "ressuscitados" se espalharam em velocidade vertiginosa, dificultando para muitos espectadores distinguir entre o real e o falso.
Alguns vídeos são criados com a intenção de serem engraçados, como a cena em que o apresentador do programa "Mr. Rogers' Neighborhood", Fred Rogers, faz um rap com Tupac Shakur. No entanto, a maior parte do conteúdo criado ultrapassa os limites aceitáveis.
Entre eles, um vídeo que mostrava Whitney Houston embriagada usando imagens falsas de uma câmera policial, Kobe Bryant voando no helicóptero durante o acidente que o matou e sua filha, ou o ex-presidente John F. Kennedy fazendo piada sobre o assassinato de um político contemporâneo, todos causaram indignação pública.
Regulamentação frouxa
De acordo com a política da OpenAI, a ferramenta só pode simular pessoas reais com o consentimento delas. No entanto, em seu lançamento recente, a empresa abriu uma exceção a essa regra para "figuras históricas", permitindo que os usuários criem vídeos livremente sobre indivíduos falecidos. Essa decisão enfureceu muitas famílias das vítimas.
Zelda Williams, filha do falecido ator Robin Williams, compartilhou no Instagram que está recebendo constantemente vídeos de inteligência artificial de seu pai e implorou às pessoas que "parem".
"É insano ver o legado de pessoas reais sendo reduzido a farsas horríveis controladas pelo TikTok", disse Zelda.
 |
As normas da OpenAI relativas ao uso do Sora 2 apresentam muitas lacunas. Foto: Bloomberg . |
Especialistas acreditam que esse fenômeno reflete um ponto de virada na tecnologia de IA, onde as linhas entre criatividade e ofensividade estão se tornando cada vez mais tênues. Henry Ajder, pesquisador de deepfakes, argumenta que a "ressurreição sintética" de indivíduos falecidos levanta questões importantes sobre o controle da imagem pessoal e do legado.
"Se você usa imagens de celebridades para criar conteúdo, certamente atrai visualizações. Mas, com os falecidos, isso toca em uma questão mais profunda: a quem pertencem suas memórias e identidade?", disse Ajder.
Em resposta à reação negativa, a OpenAI afirmou que permitiria que representantes de figuras públicas falecidas recentemente solicitassem que suas imagens fossem bloqueadas nos vídeos da Sora. "Acreditamos que figuras públicas e suas famílias devem ter controle sobre como seus direitos autorais são gerenciados", disse um porta-voz da OpenAI.
Diversas organizações da indústria do entretenimento americana também manifestaram suas preocupações. A Creative Artists Agency, empresa que representa muitas estrelas de Hollywood, afirmou que o Sora 2 colocou clientes e propriedade intelectual em sério risco. A Motion Picture Association of America (MPAA) pediu à OpenAI que tome medidas “imediatas e decisivas” para proteger os direitos dos criadores.
Não são apenas os artistas; figuras históricas também se tornaram vítimas. Um vídeo criado por Sora mostra Winston Churchill promovendo a companhia aérea JetBlue ou mencionando piadas obscenas na internet.
Fonte: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html
Comentário (0)