Deepfakes inundam a rede social da OpenAI, Sora, e o CEO Sam Altman se torna um "fenômeno de memes"

A OpenAI acaba de lançar o Sora 2, uma versão atualizada do aplicativo Sora AI, a nova rede social de vídeo de IA da OpenAI.

Além do recurso de criar vídeos a partir de texto, editar vídeos curtos com imagens e movimentos de forma bastante realista, de acordo com a descrição fornecida pelo usuário, como na versão original, o Sora 2 tem a capacidade de criar som e lidar melhor com a física.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 1. — O Sora 2 da OpenAI está conquistando o mundo. Foto: CNBC

Além disso, o Sora 2 foi aprimorado com a capacidade de recriar cenas complexas, como pular, andar de skate ou voar. Especialistas em tecnologia consideram esta a tecnologia de vídeo de IA mais avançada da atualidade.

Junto com isso, a OpenAI "emboscou" as redes sociais com o aplicativo Sora no iOS nos EUA e Canadá.

O aplicativo Sora permite que os usuários criem, compartilhem e visualizem vídeos de IA semelhantes aos do TikTok ou Instagram Reels, com destaque para o recurso de participação especial. Os usuários podem registrar seus dados de rosto e voz para se inserirem em vídeos de IA, permitindo que amigos usem esse recurso em vídeos compartilhados.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 2. — Avatar de IA do CEO da OpenAI, Sam Altman, Norm Macdonald em Sora. Captura de tela/Sora 2

A controvérsia surgiu quando a participação especial do CEO da OpenAI, Sam Altman, foi tornada pública no aplicativo Sora e uma série de vídeos deepfake de seu rosto apareceram em todas as redes sociais em 24 horas.

Essa situação inesperada transformou o CEO da OpenAI em um "fenômeno de memes", assim como transformou Sora em uma "fábrica" global de produção de deepfakes.

Embora tenha sido testado apenas nos EUA e Canadá, a popularidade do Sora explodiu a tal ponto que códigos de convite do Sora estão sendo vendidos em todo o eBay.

Sora 2: O auge da tecnologia ou uma máquina de deepfake?

Não há como negar que o fenômeno acima ajudou Sora a "viralizar" a uma velocidade vertiginosa. No entanto, muitas pessoas expressaram preocupação se uma situação semelhante acontecesse com políticos , celebridades ou pessoas influentes.

Uma questão foi levantada, trazendo consigo muitas preocupações e controvérsias: como a OpenAI lida quando pessoas influentes se encontram em situações como a do Sr. Sam Altman?

De acordo com a OpenAI, o aplicativo Sora opera de forma semelhante a outras plataformas de vídeos curtos, como TikTok, Meta Reels ou YouTube Shorts, usando algoritmos para sugerir conteúdo com base nos hábitos do usuário.

A única diferença é que o aplicativo Sora é a primeira rede social a focar inteiramente em vídeo de IA.

O TechCrunch comentou que Sora 2 é tecnicamente impressionante na criação de filmagens altamente realistas. No entanto, essa também é a razão pela qual Sora é facilmente usado para produzir vídeos negativos, servindo a propósitos ruins.

Essa consequência forçou a OpenAI a criar rapidamente um mecanismo de controle de segurança para usuários no mundo virtual.

Notavelmente, a OpenAI teria exposto uma contradição em sua estratégia de desenvolvimento ao lançar o Sora. A empresa está determinada a manter sua "imagem de laboratório que prioriza a segurança humana", ao mesmo tempo em que expande para produtos de consumo em busca de receita. "Precisamos de capital para desenvolver IA para a ciência, mas também é bom criar produtos que façam as pessoas sorrirem e resolvam os custos operacionais", compartilhou o CEO Sam Altman.

Muitos especialistas e ex-funcionários da OpenAI não escondem seu ceticismo sobre os objetivos da empresa de tecnologia.

Sora é tecnicamente impressionante, mas é muito cedo para ter certeza de que podemos evitar as armadilhas de outras plataformas de mídia social, diz o professor Boaz Barak, pesquisador da OpenAI na Universidade de Harvard.

Até o momento, os reguladores dos EUA monitoraram de perto a mudança da OpenAI para um modelo com fins lucrativos.

Ao abrir uma nova era para o vídeo de IA, Sora também coloca o OpenAI no centro da controvérsia com muitas contradições entre as conquistas que ele traz para a revolução do entretenimento e as preocupações imprevisíveis dos vídeos deepfake.

Sora 2: O auge da tecnologia ou uma máquina de deepfake?

Comentário (0)