Quiere lo que quiere
Sentada en una cafetería navegando por internet, la Sra. Loan se sobresaltó al ver en la pantalla a un anciano entrando en un bar musical, llamando a cinco chicas de piernas largas a la vez y bailando con libertad... "Ese anciano tiene una cara parecida a la de mi padre. La imagen es inimaginable. Si los niños de la casa vieran estas imágenes, ¿qué dirían? Sería un problema", compartió la Sra. Loan.
Las redes sociales ahora tienen muchos videos de IA con contenido vulgar, desde sonido hasta imágenes.
Otra imagen: un anciano con tres jovencitas vestidas con estilo en una moto que va a toda velocidad por la calle. El conductor grita: "¡Aléjate de mi espalda, dos tornillos apretándome la espalda, cómo puedo soportarlo...!". O la imagen de una chica en bikini caminando en medio del mercado entrevistando a un anciano con el propósito de hablar mal de las mujeres; entrevistando a su expareja con respuestas vulgares...
“Actualmente, en las redes sociales, hay cientos e incluso miles de videos creados con herramientas de IA, que muestran chicas con poca ropa, diálogos obscenos relacionados con la fisiología y el sexo… y videos que rompen con los valores culturales, acercándose a los usuarios móviles con algoritmos inteligentes. Quien quiera hacer un video, sea lo que sea, nada más”, se preocupó Thanh Hoai, empleado de banco.
Hoy en día, las herramientas de creación de videos con IA ya no son tan comunes como HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video... Cada herramienta tiene sus propias ventajas en cuanto a funciones, calidad de imagen, personalización de avatares, compatibilidad con varios idiomas o integración de voz en off y efectos especiales con IA. Los videos de IA con calidad "realista" y que generan imágenes y sonidos "excesivos", como se mencionó anteriormente, y que aparecen con frecuencia en la red, se crean principalmente con IA Google Veo 3. Este modelo de IA es capaz de crear videos a partir de indicaciones e integrar sonidos vívidos, como diálogos entre personajes o sonidos de animales, lo que lo convierte en un modelo significativamente más avanzado que otros modelos de IA, que solo crean videos "silenciosos" o con música de fondo simple.
Los videos con IA, especialmente los curiosos y vulgares, están llegando rápidamente a los usuarios móviles, ya que muchas personas pueden suscribirse a paquetes de servicios de proveedores de herramientas de IA, desde unas pocas decenas de dólares hasta cientos de dólares al mes. Al mismo tiempo, muchos también ofrecen servicios completos de creación de videos con IA, como paquetes básicos: videos cortos, imágenes promedio; paquetes avanzados con videos de alta calidad y muchos efectos; paquetes profesionales con videos creativos y funciones avanzadas, con precios que varían según la duración, la complejidad y las funciones adicionales como doblaje, subtítulos multilingües y optimización SEO. "Puedes tener cualquier tipo de video con IA que quieras, incluso contenido ofensivo y divertido, imágenes geniales en lugares concurridos, diálogos "dolorosos"... podemos con todo", afirmó Trong Hoa, especialista en creación de contenido para redes sociales.
Muchas consecuencias impredecibles
Google afirma que todo el contenido generado por Veo 3 está etiquetado con una marca de agua SynthID, la tecnología de DeepMind que ayuda a rastrear e identificar el contenido generado por IA. La compañía también ofrece una guía de seguridad, que enfatiza el objetivo de ayudar a los usuarios a crear e identificar contenido de IA de forma responsable.
Con la aparición de los vídeos de IA en general, y de la herramienta Veo 3 en particular, la cuestión de la ética de la IA se plantea desde una perspectiva específica. La IA distorsiona la identidad cultural: puede crear versiones híbridas de la cultura nacional, lo que genera confusión sobre el origen, pierde la esencia de la identidad cultural y, a largo plazo, dificulta que la comunidad distinga entre el valor original y la variación. Violación de los derechos de propiedad cultural: la IA recopila, copia y replica fácilmente elementos culturales sin reconocimiento ni protección de derechos de autor, lo que propicia la difusión de valores tradicionales. Impacto sociopsicológico: la exposición frecuente a contenido falso genera confusión en los usuarios, generando dudas sobre la autenticidad de la información, lo que afecta la confianza social y los valores culturales comunes.
El rápido desarrollo de esta tecnología ha dificultado el cumplimiento de las regulaciones legales, las medidas de protección de derechos de autor y la identificación de productos reales e falsos, lo que ha generado numerosos desafíos para preservar y promover los valores culturales tradicionales. Veo 3 no solo es una herramienta de entretenimiento, sino también un gran avance en los campos de la comunicación, la educación , el marketing e incluso el cine. Sin embargo, junto con las oportunidades, existen desafíos significativos, como el riesgo de abuso tecnológico, la sustitución de personas en las industrias creativas y los problemas éticos que conlleva. Por lo tanto, el papel de las políticas, los estándares éticos y la formación en habilidades digitales para la comunidad es fundamental para que una IA como Veo 3 pueda desarrollarse y utilizarse de forma responsable, afirmó el Sr. Phan Phuoc Quoc, director de GenZ Company.
Por otro lado, a medida que las herramientas de IA se desarrollan, también lo hace el riesgo de ciberataques. Cuanto más sofisticadas sean las herramientas de IA que crean vídeos, el riesgo de ciberataques con deepfake se extenderá a formas nuevas y más peligrosas. Según Kaspersky (una de las empresas de software antivirus más grandes del mundo ), en promedio, se produce un ataque deepfake cada 5 minutos, y se prevé que para 2026, hasta el 90 % del contenido en línea se creará con IA. El objetivo principal de los ataques deepfake sigue siendo el usuario común con información personal, bancaria y de pago...
El riesgo de difundir contenido falso mediante tecnología deepfake preocupa a muchas personas. Herramientas de IA como Veo 3 pueden explotarse para producir contenido falso, lo que afecta la reputación de personas y organizaciones o causa desorden informativo en las redes sociales, afirmó el Sr. Vu Ngoc Son, director del Departamento de Investigación, Consultoría, Desarrollo Tecnológico y Cooperación Internacional de la Asociación Nacional de Ciberseguridad (NCA).
BA TAN
Fuente: https://www.sggp.org.vn/canh-giac-video-ai-phan-cam-post799084.html
Kommentar (0)