Una IA crea un vídeo ofensivo al 'revivir' a un muerto

La nueva herramienta de creación de videos de OpenAI está causando angustia a muchas familias de celebridades, ya que las imágenes de seres queridos fallecidos están siendo "resucitadas" por IA en videos ofensivos, distorsionados y, a veces, humillantes.

Los videoclips generados por IA que simulan figuras fallecidas, desde Malcolm X y Whitney Houston hasta Kobe Bryant, han provocado indignación. Esto plantea interrogantes sobre los límites éticos y el control de las imágenes en la era de la IA.

Contenido ofensivo

Ilyasah Shabazz, hija del activista de derechos civiles Malcolm X, dice que no quiere ver ningún vídeo de su padre generado por IA. Estos vídeos se crearon con Sora 2, la nueva herramienta de texto a vídeo de OpenAI, para crear escenas de Malcolm X contando chistes groseros y discutiendo con el reverendo Martin Luther King.

"Es irrespetuoso y desgarrador ver cómo se explota la imagen de mi padre de una forma tan insensata. No entiendo por qué quienes desarrollan esta tecnología no actúan con la misma conciencia y cuidado que tendrían con su propia familia", declaró Shabazz al Washington Post .

Sora 2 crea vídeos a partir de imágenes de personas fallecidas sin permiso. Foto: Bloomberg .

Sora 2 se convirtió rápidamente en un fenómeno global gracias a su capacidad para crear vídeos increíblemente realistas. A los pocos días de su lanzamiento, la aplicación se ubicó en lo más alto de las listas de descargas. Sin embargo, su rápida difusión también provocó la aparición de una serie de vídeos falsos de famosos en redes sociales.

Las imágenes de Michael Jackson, Elvis Presley o Amy Winehouse “resucitados” se difundieron a la velocidad del rayo, lo que hizo difícil para muchos espectadores distinguir entre lo real y lo falso.

Algunos videos se crean con la intención de ser graciosos, como la escena donde Fred Rogers, presentador de "Mr. Rogers' Neighborhood", rapea con Tupac Shakur. Sin embargo, la mayoría del contenido creado excede los límites aceptables.

Entre ellos, un video que mostraba a Whitney Houston en estado de ebriedad usando imágenes falsas de una cámara policial, a Kobe Bryant volando en el helicóptero durante el accidente que lo mató a él y a su hija, o al ex presidente John F. Kennedy bromeando sobre el asesinato de un político contemporáneo, todos causaron indignación pública.

Regulaciones laxas

Según la política de OpenAI, la herramienta solo puede simular personas reales con su consentimiento. Sin embargo, en su reciente lanzamiento, la compañía eximió esta regla para "figuras históricas", permitiendo a los usuarios crear libremente videos sobre personas fallecidas. Esta decisión ha indignado a muchas familias de las víctimas.

Zelda Williams, hija del fallecido actor Robin Williams, compartió en Instagram que constantemente le envían videos de IA de su padre y le rogó a la gente que "pare".

"Es una locura ver el legado de personas reales reducido a horribles payasadas donde TikTok los controla", dijo Zelda.

Las normas de OpenAI sobre el uso de Sora 2 están llenas de lagunas. Foto: Bloomberg .

Los expertos creen que este fenómeno refleja un punto de inflexión en la tecnología de IA, donde se difuminan los límites entre la creatividad y lo ofensivo. Henry Ajder, investigador de deepfakes, argumenta que la "resurrección sintética" de personas fallecidas plantea importantes interrogantes sobre el control de la imagen personal y el legado.

“Si se usan imágenes de famosos para crear contenido, sin duda se atraerá la atención. Pero con los fallecidos, se aborda una cuestión más profunda: quién es el dueño de sus recuerdos e identidad”, dijo Ajder.

En respuesta a la reacción negativa, OpenAI anunció que permitiría a los representantes de figuras públicas recientemente fallecidas solicitar que sus imágenes se bloqueen en los videos de Sora. "Creemos que las figuras públicas y sus familias deberían tener control sobre la protección de los derechos de autor de sus imágenes", declaró un portavoz de OpenAI.

Muchas organizaciones de la industria del entretenimiento estadounidense también han expresado su preocupación. Creative Artists Agency, empresa que representa a numerosas estrellas de Hollywood, declaró que Sora 2 ha puesto en grave riesgo a los clientes y la propiedad intelectual. La Asociación Cinematográfica de Estados Unidos (MPAA) instó a OpenAI a tomar medidas inmediatas y decisivas para proteger los derechos de los creadores.

No solo artistas, también figuras históricas han sido víctimas. Un video que Sora creó muestra a Winston Churchill promocionando JetBlue o haciendo referencia a chistes picantes de internet.

Fuente: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html