Los deepfakes inundan la red social Sora de OpenAI; el CEO Sam Altman se convierte en un "fenómeno viral".

(NLDO) - La aplicación de redes sociales de vídeo con IA, Sora, desarrollada por OpenAI, se enfrenta a una ola de controversia a medida que aparecen por todas partes vídeos deepfake creados con IA.

OpenAI acaba de lanzar Sora 2, una versión mejorada de la aplicación Sora AI, la nueva red social de vídeo con IA de OpenAI.

Además de la función de crear vídeos a partir de texto, editar vídeos cortos con imágenes y movimientos de forma bastante realista según la descripción proporcionada por el usuario, al igual que la versión original, Sora 2 tiene la capacidad de crear sonido y manejar mejor la física.

Sora 2 de OpenAI está causando furor en todo el mundo. Foto: CNBC

Además, Sora 2 se ha actualizado con la capacidad de recrear escenas complejas como saltos, patinaje o vuelo. Los expertos en tecnología consideran que esta es la tecnología de vídeo con IA más avanzada del mercado.

Además, OpenAI "sorprendió" a las redes sociales con la aplicación Sora para iOS en Estados Unidos y Canadá.

La aplicación Sora permite a los usuarios crear, compartir y ver vídeos de IA similares a los de TikTok o Instagram Reels, destacando la función de cameo. Los usuarios pueden registrar su rostro y voz para insertarse en vídeos de IA, permitiendo que sus amigos utilicen esta función en vídeos compartidos.

El avatar de IA del CEO de OpenAI, Sam Altman, Norm Macdonald, sobre Sora. Captura de pantalla/Sora 2

La polémica surgió cuando el cameo del CEO de OpenAI, Sam Altman, se hizo público en la aplicación Sora y una serie de vídeos deepfake de su rostro aparecieron en las redes sociales en menos de 24 horas.

Esta situación inesperada convirtió al CEO de OpenAI en un "fenómeno de memes" y a Sora en una "fábrica" ​​global de producción de deepfakes.

Aunque solo se probó en Estados Unidos y Canadá, la popularidad de Sora se ha disparado hasta el punto de que los códigos de invitación de Sora se venden por todo eBay.

Sora 2: ¿La cúspide de la tecnología o una máquina de deepfake?

Es innegable que el fenómeno mencionado contribuyó a que Sora se volviera viral a una velocidad vertiginosa. Sin embargo, muchos expresaron su preocupación sobre qué pasaría si una situación similar ocurriera con políticos , celebridades o personas influyentes.

Se planteó una pregunta que suscitó numerosas preocupaciones y controversias: ¿Cómo gestiona OpenAI los casos en que personas influyentes se encuentran en situaciones como la del Sr. Sam Altman?

Según OpenAI, la aplicación Sora funciona de forma similar a otras plataformas de vídeos cortos como TikTok, Meta Reels o YouTube Shorts, utilizando algoritmos para sugerir contenido basándose en los hábitos del usuario.

La única diferencia es que la aplicación Sora es la primera red social que se centra por completo en el vídeo con IA.

TechCrunch comentó que Sora 2 es técnicamente impresionante a la hora de crear imágenes muy realistas. Sin embargo, esa misma razón es la que hace que Sora sea fácilmente utilizado indebidamente para producir vídeos negativos con fines malintencionados.

Esta consecuencia obligó a OpenAI a idear rápidamente un mecanismo de control de seguridad para los usuarios en el mundo virtual.

Cabe destacar que OpenAI habría evidenciado una contradicción en su estrategia de desarrollo al lanzar Sora. La empresa está decidida a mantener su imagen de laboratorio centrado en la seguridad humana, al tiempo que se expande al mercado de productos de consumo para generar ingresos. «Necesitamos capital para desarrollar IA para la ciencia, pero también es importante crear productos que alegren a la gente y reduzcan los costos operativos», declaró el director ejecutivo, Sam Altman.

Muchos expertos y exempleados de OpenAI no ocultan su escepticismo sobre los objetivos de la empresa tecnológica.

Sora es técnicamente impresionante, pero es demasiado pronto para estar seguros de que podemos evitar los escollos de otras plataformas de redes sociales, dice el profesor Boaz Barak, investigador de OpenAI en la Universidad de Harvard.

Hasta la fecha, los reguladores estadounidenses han vigilado de cerca la transición de OpenAI a un modelo con fines de lucro.

Si bien Sora inaugura una nueva era para el vídeo con IA, también sitúa a OpenAI en el centro de la polémica debido a las numerosas contradicciones entre los logros que aporta a la revolución del entretenimiento y las impredecibles preocupaciones que suscitan los vídeos deepfake.

Fuente: https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm