Una IA crea un vídeo ofensivo al 'revivir' a un muerto

La nueva herramienta de creación de videos de OpenAI está poniendo en crisis a las familias de las celebridades, ya que las imágenes de sus seres queridos fallecidos son "resucitadas" por la IA en videos ofensivos, distorsionados y, a veces, humillantes.

Los videos generados por IA de personas fallecidas, desde Malcolm X hasta Whitney Houston y Kobe Bryant, han causado revuelo y planteado preguntas sobre los límites éticos y el control de la imagen en la era de la IA.

Contenido ofensivo

Ilyasah Shabazz, hija del activista de derechos civiles Malcolm X, dice que no quiere ver ningún vídeo de su padre generado por IA. Estos vídeos se crearon con Sora 2, la nueva herramienta de texto a vídeo de OpenAI, para crear escenas de Malcolm X contando chistes groseros y discutiendo con el reverendo Martin Luther King.

"Es irrespetuoso y desgarrador ver cómo se explota la imagen de mi padre de una forma tan insensata. No entiendo por qué quienes desarrollan esta tecnología no actúan con la misma conciencia y cuidado que tendrían con su propia familia", declaró Shabazz al Washington Post .

Sora 2 crea vídeos a partir de imágenes de personas fallecidas sin permiso. Foto: Bloomberg .

Sora 2 se convirtió rápidamente en un fenómeno global gracias a su capacidad para crear vídeos increíblemente realistas. A los pocos días de su lanzamiento, la aplicación se ubicó en lo más alto de las listas de descargas. Sin embargo, su rápida difusión también provocó la aparición de una serie de vídeos falsos de famosos en redes sociales.

Las imágenes "resucitadas" de Michael Jackson, Elvis Presley y Amy Winehouse se difundieron a una velocidad vertiginosa, dejando a muchos espectadores incapaces de distinguir entre lo real y lo falso.

Algunos videos buscan ser graciosos, como aquel en el que Fred Rogers, presentador de "Mr. Rogers' Neighborhood", rapea con Tupac Shakur. Pero gran parte del contenido creado es simplemente excesivo.

Entre ellos, un video que recrea a Whitney Houston en estado de ebriedad a través de un ángulo falso de una cámara policial, a Kobe Bryant volando en un helicóptero en el accidente que lo mató a él y a su hija, y al ex presidente John F. Kennedy bromeando sobre el asesinato de un político contemporáneo, todos ellos enfurecieron a la comunidad.

Regulaciones laxas

La política de OpenAI establece que la herramienta solo puede simular personas reales con su consentimiento. Sin embargo, en su reciente lanzamiento, la compañía eximió a las "figuras históricas" de esta norma, permitiendo a los usuarios crear libremente videos de personas fallecidas. Esta decisión ha indignado a muchas familias de las víctimas.

Zelda Williams, hija del fallecido actor Robin Williams, compartió en Instagram que constantemente le enviaban videos de IA de su padre y le rogaba a la gente que "por favor parara".

"Es una locura ver el legado de personas reales reducido a horribles payasadas donde TikTok los controla", dijo Zelda.

Las normas de OpenAI sobre el uso de Sora 2 están llenas de lagunas. Foto: Bloomberg .

Los expertos afirman que este fenómeno refleja un punto de inflexión en la tecnología de IA, donde la línea entre creatividad y ofensa se difumina. Henry Ajder, investigador de deepfakes, afirmó que la "resurrección sintética" de los muertos plantea importantes interrogantes sobre el control de la imagen personal y el legado.

“Si se usan imágenes de famosos para crear contenido, sin duda atraerá visitas. Pero con los fallecidos, se aborda una cuestión más profunda: quién es el dueño de sus recuerdos e identidad”, dijo Ajder.

En respuesta a la indignación, OpenAI anunció que permitiría a los representantes de figuras públicas recientemente fallecidas solicitar que sus imágenes se bloqueen en los videos de Sora. "Creemos que las figuras públicas y sus familias deberían tener control sobre el uso de sus imágenes protegidas por derechos de autor", declaró un portavoz de OpenAI.

Varias organizaciones de la industria del entretenimiento estadounidense también han expresado su preocupación. Creative Artists Agency, la agencia de representación de numerosas estrellas de Hollywood, afirmó que Sora 2 ha puesto en grave riesgo a los clientes y la propiedad intelectual. La Asociación Cinematográfica de Estados Unidos (MPAA) instó a OpenAI a tomar medidas inmediatas y decisivas para proteger los derechos de los creadores.

No solo artistas, también figuras históricas han sido víctimas. Un video que Sora creó muestra a Winston Churchill promocionando JetBlue o haciendo referencia a chistes picantes de internet.

Fuente: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html