Necesidad urgente de controlar el contenido de IA.

Se deben establecer criterios para limitar el contenido que los usuarios pueden crear utilizando IA, y se debe exigir un etiquetado claro.

En los últimos años, la inteligencia artificial (IA) se ha desarrollado y mejorado continuamente a un ritmo vertiginoso, convirtiéndose en una herramienta poderosa que respalda numerosos campos. Veo3, una tecnología de creación de video impulsada por IA, desarrollada recientemente por Google DeepMind, es capaz de producir imágenes increíblemente realistas. Sin embargo, además de sus beneficios para el usuario, esta herramienta también presenta el desafío de ser explotada por actores maliciosos con fines fraudulentos.

Es difícil distinguir entre lo genuino y lo falso.

Según expertos en tecnología, Veo3 se ha convertido en una sensación mundial gracias a sus capacidades de creación de videos con IA, con un nivel de realismo muy superior al de las herramientas disponibles anteriormente. A diferencia de Sora de OpenAI, que destaca en cuanto a imágenes pero tiene limitaciones en cuanto a audio, Veo3 sincroniza a la perfección imágenes, sonidos ambientales y diálogos. Desde pasos y viento hasta palabras habladas y efectos ambientales, todo se integra a la perfección, logrando un nivel de realismo tan realista que dificulta a los usuarios distinguir entre videos reales y creados por IA.

En Vietnam, Veo3 se convirtió rápidamente en una sensación en redes sociales como TikTok, Facebook y YouTube Shorts. Numerosos videos etiquetados como #veo3 se compartieron a la velocidad del rayo, atrayendo millones de visualizaciones y cientos de miles de interacciones. Muchos clips generados por IA asombraron a la comunidad en línea con su increíble realismo. Por ejemplo, un video de 8 segundos con una simple línea de diálogo obtuvo 5 millones de visualizaciones y más de 308.000 "me gusta". Otro video, creado íntegramente con IA, que mostraba a una anciana friendo huevos, también alcanzó más de 2,6 millones de visualizaciones y más de 104.000 "me gusta".

El Sr. Tran Vinh Khang, oficinista del Distrito 1 de Ciudad Ho Chi Minh, comentó que apenas podía distinguir entre videos reales y falsos debido a su extremo realismo. "Vi un video de un vendedor de pescado hablando con un cliente en el mercado y pensé que era real porque la imagen era muy nítida. La forma en que saludaba, levantaba las cejas, la luz del sol en su rostro... todo era tan natural que no podía creer que lo hubiera creado una IA", dijo el Sr. Khang.

Las imágenes del vídeo creado por Veo3 son difíciles de distinguir para los usuarios entre reales y falsas.

Si bien reconoció su admiración, la Sra. Nguyen Mai Anh (residente de Ciudad Ho Chi Minh) expresó su preocupación por la seguridad de la información. "Los videos creados por Veo3 son tan realistas que me inquietan. Si actores maliciosos utilizan esta tecnología para crear videos difamatorios, calumniar o falsificar pruebas, las consecuencias serán muy graves", declaró la Sra. Anh.

Muchos usuarios vietnamitas están particularmente interesados ​​en cómo acceder y usar Veo3. Sin embargo, Google solo ha lanzado Veo3 oficialmente en el mercado estadounidense a través del paquete de suscripción Google AI Ultra, con un costo de $249.99 al mes. Ante esta limitación, la comunidad en línea vietnamita ha buscado maneras de eludir las restricciones para poder disfrutarlo. Muchas personas comparten consejos sobre cómo usar VPN para cambiar su dirección IP a EE. UU., registrando así una cuenta de Google en una región compatible para activar y usar Veo3 como usuario local. Según expertos en seguridad, esta también es una vulnerabilidad que podrían explotar con fines maliciosos.

Se necesita un marco legal para la IA.

El Sr. Le Hong Duc, fundador de OneAds Digital Co., Ltd., afirmó que los productos generados por IA, como vídeos, imágenes y voces, están alcanzando un nivel de realismo asombroso, e incluso pueden introducirse directamente en la producción y comercialización. Este auge ofrece claras ventajas en términos de coste y tiempo, pero puede aprovecharse para difundir desinformación o sembrar el pánico público. En el contexto de modelos de IA cada vez más complejos, el control del contenido se vuelve crucial, especialmente porque la tecnología ha superado con creces el ritmo de las actualizaciones legales actuales.

Por lo tanto, el Sr. Duc propuso la urgente necesidad de desarrollar una ley especializada para la IA, que defina claramente las responsabilidades de quienes crean y comparten contenido de IA. La difusión de contenido engañoso, dañino o tóxico debe ser severamente castigada. Al mismo tiempo, las autoridades deben establecer criterios que limiten el contenido que los usuarios pueden crear mediante IA y exigir un etiquetado claro. El incumplimiento conllevará responsabilidades legales y una indemnización por daños y perjuicios. «La promulgación de un marco legal independiente para la IA es extremadamente urgente para controlar esta tecnología en rápido desarrollo, contribuyendo a mantener un entorno digital saludable y previniendo consecuencias negativas como fraude, violaciones éticas o comportamiento ofensivo», enfatizó el Sr. Duc.

Además de las preocupaciones legales, un experto en seguridad informática comentó que el rápido desarrollo de Veo3 también preocupa a los creadores de contenido, especialmente en campos como el cine, la televisión y la animación, que corren el riesgo de ser reemplazados gradualmente por la tecnología de IA, lo que supone un gran reto para la protección de las profesiones y los derechos de autor en la industria creativa. "Es necesario que se aprueben pronto las regulaciones sobre los derechos de propiedad intelectual para el contenido generado por IA, ya que esta ahora puede producir productos de gran realismo. De lo contrario, los creadores se arriesgarán a perder sus empleos ante la oleada de obras virtuales que inunda el mercado", declaró el experto.

Tenga cuidado con los servicios fraudulentos.

Desde el lanzamiento de Veo3, muchas cuentas en redes sociales que se autoproclaman "expertos en IA" han empezado a compartir vídeos de demostración, tutoriales sobre cómo acceder a Veo3 o a vender cuentas y servicios de soporte por entre 200.000 y 300.000 VND. Algunos usuarios informaron haber accedido y probado la aplicación con éxito, pero no todos pudieron experimentarla. El Sr. Le Hong Duc advirtió a los usuarios que tengan cuidado con los servicios fraudulentos o no oficiales y recomendó esperar a que Google lance oficialmente Veo3 en el mercado vietnamita para evitar estafas financieras, robo de datos o acceso no autorizado a sus cuentas de Google.

Fuente: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm