Deepfakes inundam a rede social Sora da OpenAI, e o CEO Sam Altman se torna um "fenômeno meme".

A OpenAI acaba de lançar o Sora 2, uma versão atualizada do aplicativo de IA Sora, a nova rede social de vídeos com inteligência artificial da OpenAI.

Além da funcionalidade de criar vídeos a partir de texto, editar vídeos curtos com imagens e movimentos de forma bastante realista, de acordo com a descrição fornecida pelo usuário, assim como na versão original, Sora 2 possui a capacidade de criar som e lidar melhor com a física.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 1. — O Sora 2 da OpenAI está conquistando o mundo. Foto: CNBC

Além disso, Sora 2 foi aprimorado com a capacidade de recriar cenas complexas, como saltos, skate e voos. Especialistas em tecnologia consideram essa a tecnologia de vídeo com IA mais avançada da atualidade.

Além disso, a OpenAI "emboscou" as redes sociais com o aplicativo Sora para iOS nos EUA e no Canadá.

O aplicativo Sora permite que os usuários criem, compartilhem e visualizem vídeos com inteligência artificial, semelhantes aos do TikTok ou Instagram Reels, com destaque para o recurso de participação especial. Os usuários podem cadastrar seus dados faciais e de voz para se inserirem em vídeos com inteligência artificial, permitindo que os amigos usem esse recurso em vídeos compartilhados.

Thật giả lẫn lộn trên Sora của OpenAI - Ảnh 2. — Avatar de IA do CEO da OpenAI, Sam Altman, Norm Macdonald em Sora. Captura de tela/Sora 2

A controvérsia surgiu quando a participação especial do CEO da OpenAI, Sam Altman, foi divulgada no aplicativo Sora e uma série de vídeos deepfake com seu rosto apareceram nas redes sociais em 24 horas.

Essa situação inesperada transformou o CEO da OpenAI em um "fenômeno viral" e também transformou a Sora em uma "fábrica" global de produção de deepfakes.

Embora tenha sido testado apenas nos EUA e no Canadá, a popularidade de Sora explodiu a tal ponto que códigos de convite para Sora estão sendo vendidos por todo o eBay.

Sora 2: O auge da tecnologia ou uma máquina de deepfake?

É inegável que o fenômeno acima ajudou Sora a "viralizar" em uma velocidade vertiginosa. No entanto, muitas pessoas expressaram preocupação caso uma situação semelhante acontecesse com políticos , celebridades ou pessoas influentes.

Uma questão foi levantada, trazendo consigo muitas preocupações e controvérsias: como a OpenAI lida com situações como a do Sr. Sam Altman quando pessoas influentes se encontram nessa situação?

Segundo a OpenAI, o aplicativo Sora funciona de forma semelhante a outras plataformas de vídeos curtos, como TikTok, Meta Reels ou YouTube Shorts, usando algoritmos para sugerir conteúdo com base nos hábitos do usuário.

A única diferença é que o aplicativo Sora é a primeira rede social a se concentrar inteiramente em vídeos com inteligência artificial.

O TechCrunch comentou que o Sora 2 é tecnicamente impressionante na criação de imagens altamente realistas. No entanto, essa também é a razão pela qual o Sora é facilmente usado de forma abusiva para produzir vídeos negativos, com fins maliciosos.

Essa consequência obrigou a OpenAI a desenvolver rapidamente um mecanismo de controle de segurança para usuários no mundo virtual.

Curiosamente, a OpenAI teria exposto uma contradição em sua estratégia de desenvolvimento ao lançar o Sora. A empresa está determinada a manter sua imagem de "laboratório que prioriza a segurança humana", ao mesmo tempo que se expande para produtos de consumo visando gerar receita. "Precisamos de capital para desenvolver IA para a ciência, mas também é importante criar produtos que façam as pessoas sorrirem e reduzam os custos operacionais", afirmou o CEO Sam Altman.

Muitos especialistas e ex-funcionários da OpenAI não escondem seu ceticismo em relação aos objetivos da empresa de tecnologia.

Sora é tecnicamente impressionante, mas ainda é cedo demais para termos certeza de que podemos evitar as armadilhas de outras plataformas de mídia social, afirma o professor Boaz Barak, pesquisador da OpenAI na Universidade de Harvard.

Até o momento, os órgãos reguladores dos EUA têm acompanhado de perto a transição da OpenAI para um modelo com fins lucrativos.

Ao mesmo tempo que inaugura uma nova era para vídeos com IA, o Sora também coloca a OpenAI no centro da controvérsia, com muitas contradições entre as conquistas que traz para a revolução do entretenimento e as preocupações imprevisíveis em relação aos vídeos deepfake.

Fonte: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm