La nueva herramienta de inteligencia artificial para deepfake de ByteDance genera inquietud

Según TechSpot , ByteDance, la corporación tecnológica china detrás de TikTok, acaba de anunciar OmniHuman-1, un sistema deepfake capaz de recrear imágenes humanas con un realismo increíble. Los videos creados por OmniHuman-1 pueden engañar al espectador promedio, difuminando la línea entre lo real y lo falso en el contenido digital.

Muchos de los vídeos creados por OmniHuman-1 incluyen a Albert Einstein, Jensen Huang y muchos otros, demostrando lo increíblemente realistas que pueden ser los deepfakes.

FOTO: CAPTURA DE PANTALLA DE OMNIHUMAN-1

A diferencia de los modelos deepfake anteriores, OmniHuman-1 solo necesita una foto y un clip de audio para crear un video completo. Los usuarios pueden ajustar la relación de aspecto, la composición corporal o incluso editar movimientos en videos existentes. Esta IA (inteligencia artificial) puede cambiar los movimientos y gestos de la mano con alta precisión, haciendo que el producto luzca más natural. Sin embargo, algunos detalles aún no son perfectos, como la pose antinatural al sostener una copa de vino o la mano extrañamente torcida en un vídeo que simula la conferencia de Albert Einstein.

El modelo se entrenó con 18.700 horas de video, utilizando un enfoque de “omnicondiciones” para aprender de una variedad de fuentes de datos, incluidos texto, audio y movimientos corporales.

A pesar de los avances técnicos, la tecnología deepfake también plantea graves riesgos. En los últimos años, se ha abusado de los deepfakes para manipular información, cometer fraudes financieros y atacar reputaciones personales. Durante las elecciones de 2024, se utilizaron muchos vídeos deepfake para engañar a los votantes. El año pasado, un fraude financiero que involucró deepfakes resultó en el robo de miles de millones de dólares, incluido un caso en el que un estafador se hizo pasar por el actor Brad Pitt para engañar a una mujer y lograr que transfiriera $850,000.

Preocupados por estos riesgos, muchos expertos en ética de la IA han pedido regulaciones para controlar los deepfakes. Varios estados de EE. UU. han promulgado leyes contra los deepfakes dañinos, pero aún no existe un marco legal federal integral. California ha propuesto una legislación que permitiría a los tribunales forzar la eliminación de deepfakes y castigar a quienes los distribuyen, pero el proceso legislativo ha enfrentado muchos obstáculos.

Por el momento, ByteDance no ha anunciado planes para lanzar OmniHuman-1, pero se ha publicado un artículo de investigación sobre este modelo, que muestra el potencial y los riesgos de la creciente tecnología deepfake.

Fuente: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm