Ministro Nguyen Manh Hung: Los problemas creados por la IA podrían ser mayores que las bombas atómicas

Según el ministro Nguyen Manh Hung, el poder de la IA podría ser mayor que el de la energía nuclear, por lo que sus problemas podrían ser incluso mayores que los de las bombas atómicas. La IA y sus problemas siempre existirán y no se pueden eliminar, por lo que debemos convivir y gestionarla con prudencia.

El Sr. Nguyen Manh Hung, Ministro de Ciencia y Tecnología, intervino en el taller. Foto: NGUYEN BAO

Los comentarios fueron hechos por el Ministro de Ciencia y Tecnología en la conferencia científica Poder ilimitado y desafíos impredecibles de la inteligencia artificial (IA): impactos negativos y respuestas políticas, que tuvo lugar en la mañana del 15 de septiembre.

La IA plantea desafíos sin precedentes

En el taller, los oradores destacaron la naturaleza bilateral de la IA, las evaluaciones integrales de su impacto en la economía , la educación, la salud, la cultura, el desarrollo sostenible, la defensa nacional y la gobernanza de la seguridad, etc.

Según el general Luong Tam Quang, ministro de Seguridad Pública, en la cuarta revolución industrial, la inteligencia artificial (IA) se considera una de las tecnologías clave, un factor que puede conducir a cambios en el orden global en el futuro.

Con la capacidad de promover el crecimiento económico, optimizar la producción, mejorar la atención médica, innovar en la educación y mejorar la capacidad de gobernanza social, la IA ayuda a los países a ahorrar costos, aumentar la eficiencia, expandir el conocimiento y es un recurso, una fuerza y ​​una fuerza impulsora para afirmar la posición nacional en la era digital.

Además de su potencial, la IA también plantea desafíos sin precedentes en términos de lagunas legales, riesgos éticos, abuso de la tecnología para el cibercrimen, guerra de la información, violaciones de la privacidad de los datos y, especialmente, el riesgo de impacto en la defensa y la seguridad nacionales.

El general Luong Tam Quang, ministro de Seguridad Pública, habla en la conferencia - Foto: NGUYEN BAO

El profesor Nguyen Xuan Thang, director de la Academia Nacional de Política de Ho Chi Minh, dijo que además de su gran potencial, la IA tiene muchos riesgos graves e impredecibles.

De particular preocupación es la posible pérdida de control sobre los sistemas de IA de autoaprendizaje y autoadaptación, especialmente a medida que evolucionan más allá de la comprensión y la supervisión humanas.

Según el Sr. Thang, la IA ha estado causando impactos negativos en el mercado laboral, ya que muchas ocupaciones tradicionales están siendo reemplazadas, lo que genera un mayor riesgo de desempleo, especialmente para los trabajadores no calificados o sin habilidades digitales.

En particular, si los datos de entrenamiento están sesgados, la IA reproducirá y amplificará los sesgos sociales, lo que conducirá a decisiones sesgadas e injustas.

Además, la IA también puede ser explotada para actividades peligrosas como el fraude en línea, la difusión de noticias falsas, voces e imágenes falsas (deepfake), causar confusión pública y afectar la seguridad y el orden social; ser explotada para llevar a cabo sofisticados ataques cibernéticos para infiltrarse y destruir sistemas de información, infraestructura importante o robar datos y secretos nacionales.

"La carrera por desarrollar IA entre países corre el riesgo de crear desequilibrios estratégicos y promover tensiones militares, especialmente en ausencia de marcos jurídicos internacionales para controlar el uso de IA en defensa y seguridad.

"Por lo tanto, la IA es a la vez una herramienta para mejorar las capacidades de defensa y seguridad y una fuente potencial de riesgos para la paz y la seguridad mundiales si no se utiliza de forma responsable y transparente", afirmó el Sr. Thang.

Prof. Dr. Nguyen Xuan Thang, Director de la Academia Nacional de Política de Ho Chi Minh, en su intervención en la conferencia. Foto: NGUYEN BAO

Problemas de IA que la propia IA puede resolver

En la conferencia, el Sr. Nguyen Manh Hung, Ministro de Ciencia y Tecnología, dijo que Vietnam emitió su primera estrategia de IA en 2021. Pero la IA es un campo que cambia rápidamente y habrá una actualización de la estrategia nacional de IA y la Ley de IA para finales de este año.

Según el Ministro Nguyen Manh Hung, esto no es sólo un marco legal, sino también una declaración de visión nacional: la IA debe convertirse en la infraestructura intelectual del país, servir a la gente, desarrollarse de forma sostenible y mejorar la competitividad nacional.

La IA abre grandes oportunidades, pero también plantea numerosos problemas en materia de ética, empleo y confianza social. Por lo tanto, Vietnam debe desarrollar una IA rápida, segura y humana.

La IA es para los humanos, no para reemplazarlos, sino para servirlos. Es un asistente para los humanos. La IA es una herramienta poderosa, pero los humanos son quienes toman las decisiones. Dejemos que la IA apoye, no reemplace, el pensamiento, los valores y las responsabilidades humanas.

El ministro Nguyen Manh Hung comentó: «El poder de la IA puede ser mayor que el de la energía nuclear y, por lo tanto, sus problemas pueden ser mayores que los de las bombas atómicas. Pero la IA y sus problemas son gemelos, como el yin y el yang, como las dos caras de una moneda, que se apoyan mutuamente para coexistir y desarrollarse, y se transforman mutuamente».

Los problemas de la IA pueden ser resueltos por la propia IA, por ejemplo, capacitando recursos humanos de IA con la propia tecnología de IA, detectando violaciones a la ética de la IA también con la propia IA.

La IA crece con los problemas que genera. Sin problemas de IA, no habrá crecimiento. La IA y sus problemas son un gran "y". La IA y sus problemas siempre existirán; no podemos eliminarlos, pero debemos convivir con ellos y gestionarlos con prudencia.

Se publicará un código nacional de ética de la IA

Según el Ministro Nguyen Manh Hung, en un futuro próximo se emitirá un código nacional de ética de IA, en armonía con los estándares internacionales, pero diseñado para adaptarse a la práctica vietnamita, y la Ley de IA y la estrategia de IA se construirán de acuerdo con los siguientes puntos de vista centrales:

En primer lugar, gestionar por nivel de riesgo.

En segundo lugar, la transparencia y la rendición de cuentas.

En tercer lugar, poner a las personas en el centro.

En cuarto lugar, fomentar el desarrollo interno de la IA y la autonomía de la IA.

En quinto lugar, tomar la IA como fuerza impulsora para un crecimiento rápido y sostenible.

Sexto, proteger la soberanía digital. Los datos, la infraestructura y la tecnología de IA son los tres pilares estratégicos de la soberanía digital.

Volver al tema

NGUYEN BAO

Fuente: https://tuoitre.vn/bo-truong-nguyen-manh-hung-van-de-cua-ai-tao-ra-co-the-lon-hon-bom-nguyen-tu-20250915103427851.htm