En un momento en que la inteligencia artificial (IA) se está acelerando rápidamente y transformando todos los sistemas de la sociedad humana, desde la educación, la atención médica, la economía hasta la seguridad nacional, la pregunta más importante ya no gira en torno a cuán inteligente es la IA, sino se centra en cómo se gobierna, utiliza y controla esta tecnología para proteger a las personas.

La mesa redonda «IA para la humanidad: Ética y seguridad de la IA en la nueva era», celebrada el 2 de diciembre de 2025 en el marco de la Semana de la Ciencia y la Tecnología VinFuture 2025, se ha convertido en un foro que reúne a muchos de los rostros más influyentes de la era de la IA, desde Yoshua Bengio, Geoffrey Hinton, Vinton Cerf hasta Toby Walsh. Su análisis incisivo demuestra que los riesgos potenciales de la IA podrían superar las predicciones de sus creadores, mientras que los requisitos de transparencia, equidad de los datos, supervisión humana y confianza social se están convirtiendo en obstáculos globales.

Presa AI.jpg
El panel de discusión “IA para la humanidad: ética y seguridad de la IA en la nueva era”, que tendrá lugar el 2 de diciembre de 2025 en el marco de la Semana de la Ciencia y la Tecnología VinFuture 2025, se ha convertido en un foro que reúne a muchos de los rostros más influyentes de la era de la IA.

La IA se está acelerando a un ritmo sin precedentes y plantea desafíos éticos

La IA avanza a un ritmo que ha superado con creces las expectativas de la comunidad científica. En tan solo unos años, los modelos de aprendizaje profundo han pasado del reconocimiento básico de imágenes a la autogeneración de contenido, la simulación de emociones, la toma de decisiones complejas, el diseño de proteínas y la participación en procesos creativos. Este salto ha traído consigo oportunidades sin precedentes, pero también ha generado una serie de riesgos impredecibles, como sesgos de datos, amenazas a la privacidad, desinformación y sistemas automatizados que ya no son transparentes para los humanos.

El profesor Yoshua Bengio, coganador del Premio Turing 2018, cree que el mayor desafío actual no es la capacidad de la IA, sino que la sociedad aún no es capaz de predecir los comportamientos que surgen de modelos complejos. Advierte que los modelos a gran escala, si no se controlan adecuadamente, pueden autooptimizarse de tal manera que los humanos pierdan el control de la tecnología que crean.

De igual manera, el profesor Geoffrey Hinton, conocido como el "padre de la IA" y ganador del Premio Nobel de Física 2024, señala que el aprendizaje profundo está entrando en una fase en la que los modelos logran respuestas complejas que superan la capacidad de explicación. Esto hace que los riesgos éticos y de seguridad ya no sean hipotéticos, sino reales. Hinton enfatiza que, a diferencia de las tecnologías tradicionales, la IA no es solo una herramienta, sino que puede comportarse como un "agente", por lo que la exigencia de supervisión humana debe elevarse a un principio absoluto.

El Dr. Vinton Cerf, "el padre de Internet", comparte una perspectiva histórica: Internet se creó con la convicción de que traería progreso, pero luego surgieron innumerables consecuencias, desde la desinformación hasta la ciberdelincuencia, debido a la falta de estándares éticos desde el principio. Con la IA, si continúa desarrollándose con un enfoque de "ejecutar primero, gestionar después", el riesgo para la sociedad será mucho mayor.

Estos análisis muestran un alto consenso entre los pioneros: la IA se está desarrollando más rápido que la capacidad del mundo para construir marcos legales.

Vietnam está decidido a desarrollar tecnología de inteligencia artificial de acuerdo con una filosofía abierta.

En su intervención en el evento, el viceministro de Ciencia y Tecnología, Bui The Duy, afirmó que Vietnam emitió su primera Estrategia de IA en 2021. Sin embargo, la IA se está desarrollando a un ritmo extraordinario, por lo que a finales de este año anunciaremos la Estrategia y la Ley de IA actualizadas. Esto no es solo un marco legal, sino también una declaración de visión nacional, que define que la IA debe convertirse en la infraestructura intelectual de Vietnam, contribuyendo al bienestar social, el desarrollo sostenible y el fortalecimiento de la competitividad nacional.

Hoy en día, la IA no es solo una tecnología aplicada, sino que se está convirtiendo en una infraestructura esencial como la electricidad, las telecomunicaciones o internet. Cualquier país que domine la IA tendrá una ventaja superior en materia socioeconómica, de seguridad y defensa nacional. Por lo tanto, Vietnam está construyendo un centro nacional de supercomputación de IA, un ecosistema de datos abiertos y una infraestructura vietnamita de IA orientada a la autonomía, a la vez que implementa una IA integral a un ritmo acelerado, convirtiendo la IA en un "asistente inteligente" universal para todas las personas, mejorando la productividad social y ampliando el acceso al conocimiento, un avance al que antes solo tenían acceso los líderes de alto rango", declaró el Sr. Bui The Duy.

Compra el Duy .jpg
El viceministro de Ciencia y Tecnología, Bui The Duy, afirmó que Vietnam está decidido a que la IA se convierta en la infraestructura intelectual del país, contribuyendo al bienestar social, el desarrollo sostenible y la mejora de la competitividad nacional. Foto: PV

El Viceministro afirmó que Vietnam está decidido a desarrollar la tecnología de IA según la filosofía abierta: estándares abiertos, datos abiertos, código fuente abierto. La apertura es la manera de acceder al conocimiento global, dominar la tecnología, desarrollar el concepto "Hecho en Vietnam" y contribuir a la humanidad. La apertura también es una condición para garantizar la seguridad y la transparencia en las aplicaciones de IA.

Para el desarrollo de la IA, el mercado nacional debe ser lo suficientemente grande; sin aplicaciones, no habrá mercado y las empresas vietnamitas de IA no podrán desarrollarse. Por lo tanto, el Estado promoverá la aplicación de la IA en industrias y organismos estatales, y, al mismo tiempo, el Fondo Nacional de Innovación Tecnológica asignará entre el 30 % y el 40 % de los recursos de apoyo, incluyendo bonos de IA para pequeñas y medianas empresas, para que el mercado vietnamita se convierta en la cuna de empresas sólidas de IA.

Vietnam tiene la “ventaja del recién llegado”

Al hablar sobre este tema, el profesor asociado Luu Anh Tuan, director ejecutivo del Centro de Investigación de Inteligencia Artificial de la Universidad VinUni, explicó que el idioma vietnamita es muy complejo, por lo que los modelos de idiomas extranjeros no pueden comprenderlo. Además, dependemos en gran medida de modelos de idiomas extranjeros y carecemos de un estándar amplio de modelos de idioma vietnamita.

“Partimos de cero, mientras que otros países ya cuentan con conjuntos de datos desarrollados hace décadas, lo cual es una ventaja, ya que no supone una carga excesiva y ofrece la oportunidad de construir desde cero y generar datos limpios desde el principio. Con la ventaja de ser un recién llegado, Vietnam también tiene la oportunidad de aprovechar la tecnología más avanzada del mundo. Primero, debemos construir un almacén de datos limpio, que cubra todos los campos y tenga en cuenta el contexto de Vietnam, con los dialectos de los grupos étnicos vietnamitas. Además, existe un mecanismo ético para evitar la desinformación y las noticias falsas”, afirmó el profesor asociado Luu Anh Tuan.

El profesor asociado Luu Anh Tuan enfatizó que Vietnam necesita garantizar la soberanía de la IA, seguir la dirección del código abierto y que el Gobierno debe tener directrices claras al respecto. Además, se requiere un marco nacional de ética de la IA, directrices detalladas para la implementación de grandes modelos de lenguaje y una agencia independiente que verifique y supervise, para evitar que este modelo sea completamente autónomo. Por lo tanto, se requiere una gestión por parte del Estado, las empresas y la ciudadanía para construir la infraestructura de IA en Vietnam.

Lanzamiento de Saigon AI Hub: el primer espacio abierto de investigación en IA en la ciudad de Ho Chi Minh Saigon AI Hub es el primer espacio abierto de investigación en IA en la ciudad de Ho Chi Minh para profesores, estudiantes, expertos, grupos de investigación jóvenes y la comunidad tecnológica.

Fuente: https://vietnamnet.vn/thu-truong-bui-the-duy-viet-nam-se-cong-bo-chien-luoc-ai-cap-nhat-va-luat-ai-2468645.html