El rápido desarrollo de la IA está atrayendo gran atención a nivel mundial y en Vietnam en particular. Los expertos consideran la IA como el factor más importante de la Cuarta Revolución Industrial, aportando enormes beneficios y avances al desarrollo económico del país. Según la consultora Exactitude Consultancy, para febrero de 2024, se prevé que el tamaño del mercado global de la IA para la seguridad, la seguridad pública y la seguridad nacional aumente de 11 430 millones de dólares en 2023 a 47 320 millones de dólares en 2030.

Si bien la IA se aplica ampliamente en muchos campos, además de beneficios como proporcionar información, pronóstico inteligente de situaciones relacionadas con infraestructura crítica o pronóstico oportuno de situaciones de crisis, esta tecnología también plantea muchos riesgos y desafíos.

Todas las formas de ciberataques pueden aplicar IA

Los riesgos y desafíos de la IA para la sociedad, la ley y la ciberseguridad se mencionaron específicamente en la conferencia y exposición Cumbre de Seguridad Cibernética de Vietnam 2024 con el tema "Seguridad en la era de la explosión de la inteligencia artificial", organizada por el Departamento de Seguridad de la Información ( Ministerio de Información y Comunicaciones ) en coordinación con IEC, bajo los auspicios del Ministerio de Información y Comunicaciones el 30 de mayo.

W-KIN_4888.JPG.jpg
El Sr. Nguyen Anh Tuan, subdirector del Centro Nacional de Datos de Población del Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), participó en el taller. Foto: Comité Organizador.

Según el teniente coronel Nguyen Anh Tuan, subdirector del Centro Nacional de Datos de Población, Departamento de Policía Administrativa para el Orden Social (Ministerio de Seguridad Pública), en términos de sociedad, la IA genera preocupaciones sobre la violación de la privacidad; la IA se explota para discriminar por raza, clase, género y etnia, provocando conflictos y contradicciones más intensos; proporcionando información falsa, intercambiando conceptos, cambiando la historia, distorsionando la verdad, causando disturbios en la opinión pública, afectando a la educación y la cultura.

Como alguien que trabaja directamente con datos, el Sr. Nguyen Tuan Anh comentó: «Si bien los ministerios, departamentos y dependencias vietnamitas han desarrollado sus propias fuentes de datos para el trabajo profesional, la síntesis, el aprovechamiento y la evaluación aún presentan numerosas limitaciones, en particular, la precisión y la integridad prácticamente no están garantizadas». Por otro lado, el sistema de IA solo funciona bien cuando se cuenta con datos de entrada de calidad. Si estos son incorrectos o inexactos, se obtendrán resultados inexactos en el análisis de IA o se realizarán predicciones discriminatorias e injustas.

En términos de leyes y políticas, según las estadísticas de legalnodes.com, alrededor de 33 países han elaborado documentos legales sobre IA, pero aún son limitados y carecen de un conjunto común de estándares integrales de IA. Los países se dividen en dos corrientes: la modificación de las leyes vigentes y la integración de la IA en cada campo; y la emisión de documentos legales que regulen la IA de forma integral. Vietnam se encuentra en una fase de aproximación y no cuenta con políticas, documentos legales ni instituciones específicas relacionadas con la IA.

En cuanto a la ciberseguridad, hoy en día, todas las formas de ciberataques pueden aplicar IA para aumentar la iniciativa del atacante y causar daños más graves. Existen formas de ataque como archivos maliciosos, simulación, fraude, ataques de denegación de servicio a gran escala y aprendizaje automático. Actualmente, además del sistema de red de Internet, los ministerios, departamentos, sucursales y localidades cuentan con sus propias redes. Se han producido ataques y accesos no autorizados, y la IA puede aplicarse para aumentar la escala y el nivel de los ataques.

Uso de la IA para mitigar los riesgos de la IA

A través de la gestión e implementación actual de la Base de Datos Nacional de Población, el representante del Ministerio de Seguridad Pública propuso tres soluciones para minimizar los riesgos de la IA.

En primer lugar, completar rápidamente el corredor legal sobre IA para anticipar la tendencia, emitir documentos que regulen la ética en el proceso de desarrollo, producción y aplicación de la IA, como la protección de la privacidad, los datos personales y los derechos humanos de las unidades nacionales y extranjeras.

Según el Sr. Nguyen Anh Tuan, «Vietnam cuenta con un decreto sobre protección de datos personales, pero su aplicación práctica no ha cumplido con los requisitos para garantizar la seguridad de los datos». Por lo tanto, propuso una ley de datos o una ley de protección de datos personales. Además, debería haber regulaciones más claras sobre los delitos relacionados con la IA y estándares específicos para las plataformas de conexión, intercambio y compartición relacionadas con la IA.

En segundo lugar, investigar y aplicar proyectos de IA para combatir los riesgos de la IA. La IA es creada por humanos y producto del conocimiento, por lo que habrá variaciones entre la "IA buena" y la "IA mala". Para prevenir el desarrollo de la IA, se puede utilizar la propia IA.

En tercer lugar, el desarrollo de la IA debe ir de la mano con la ciberseguridad y la seguridad de la información para evitar ataques y controlar el secuestro de datos que puedan tener graves consecuencias. El nivel de preocupación por la seguridad de la información entre las unidades es insuficiente.

Para el Departamento de Policía Administrativa para el Orden Social, es necesario mantener la seguridad y protección de los sistemas, realizar una buena preparación, realizar copias de seguridad y restaurar datos periódicamente y organizar periódicamente simulacros de respuesta a incidentes para estar preparados para lidiar con ataques intencionales de IA.

Fortalecer el seguimiento y supervisión del proceso de conexión e intercambio de información con las unidades para detectar oportunamente comportamientos inusuales y violaciones a la normativa sobre protección de datos personales durante la explotación y procesamiento de la información.

Por último, construir y aplicar IA en la monitorización de registros, análisis del tráfico de red, combinando el aprendizaje automático y el lenguaje natural para aumentar la precisión al tomar decisiones de resolución de problemas.