Convención de Hanoi: expertos proponen "inmunidad digital" ante los desafíos de la IA

El teniente coronel, doctor y criminólogo Dao Trung Hieu, afirmó que el desarrollo de la inteligencia artificial (IA) ha transformado profundamente la forma en que las personas crean, reciben y verifican información. Tecnologías como los deepfakes, las voces sintéticas o las imágenes artificiales difuminan como nunca antes la línea entre lo real y lo falso.

Teniente coronel, PhD, experto en criminología Dao Trung Hieu. Foto: NVCC.

Según las estadísticas de Europol (2024), hoy en día alrededor del 90% del contenido en línea tiene intervención de IA en diferentes niveles, de los cuales el 15% muestra signos de falsificación intencional.

En Vietnam, el Ministerio de Seguridad Pública ha registrado una serie de casos criminales de uso de IA para hacerse pasar por familiares, funcionarios bancarios o agencias estatales para apropiarse de propiedades, y en algunos casos se han causado pérdidas de hasta decenas de miles de millones de dongs.

Lo preocupante no son solo los daños materiales, sino también la erosión de la confianza social, fundamento de todas las relaciones humanas. Cuando se puede recrear la verdad, la confianza, fundamento de todas las relaciones sociales, se ha convertido en el primer blanco de los ataques.

“Los fenómenos mencionados no son simplemente una transformación de las herramientas criminales, sino una remodelación del espacio de la conducta criminal, con características completamente nuevas: intangibles, transfronterizas, anónimas y de autoaprendizaje”, afirmó el coronel superior Dao Trung Hieu.

La transformación de la estructura del comportamiento criminal en la era de la IA

El teniente coronel Dao Trung Hieu afirmó que los delitos en la era de la IA ya no se limitan al espacio físico. Los actos delictivos se llevan a cabo mediante modelos de datos, algoritmos y sistemas de generación automatizados, lo que permite a individuos u organizaciones falsificar la autenticidad de todo tipo de información.

Si en los delitos tradicionales, los rastros físicos (pruebas, escenas del crimen, testigos) son la base principal, en los delitos de alta tecnología, los rastros digitales son la clave. La IA ayuda a los delincuentes a lograr dos peligrosas capacidades: la realidad sintética, que hace creer al receptor algo inexistente, y la erosión de la atribución, que dificulta localizar el origen del comportamiento.

Desde una perspectiva criminológica, es posible observar un cambio en la estructura de los cuatro elementos del delito:

En primer lugar, el Sujeto ya no es un individuo único, sino que puede ser un sistema automatizado o un grupo de personas que lo controlan a distancia;

En segundo lugar, el objeto violado no es sólo la propiedad, el honor o los datos, sino también la confianza social, un valor intangible pero de importancia fundamental;

En tercer lugar, los medios para cometer delitos están programados, aprenden por sí solos, son difíciles de controlar y pueden replicarse indefinidamente;

En cuarto lugar, las consecuencias sociales no se limitan al daño económico , sino que se extienden a la psicología, la moral y la seguridad nacional.

“Por lo tanto, la inteligencia artificial no solo apoya a los humanos en la creatividad y la producción, sino que también reestructura el comportamiento desviado, haciendo del concepto de “criminología digital” una nueva dirección de investigación de la ciencia criminal moderna”, dijo el Sr. Hieu.

Pasando de la investigación tradicional a la investigación en el espacio de datos

El Sr. Hieu afirmó que la aparición de delitos basados en IA obliga a las agencias de investigación a innovar sus modelos de trabajo. En lugar de investigar a posteriori, es necesario investigar los datos en paralelo, recopilando y analizando el flujo de información a medida que se produce el comportamiento.

Se están investigando técnicas como el análisis de rastros de IA, que permiten recuperar características específicas de cada modelo generativo, de forma similar a las “huellas digitales” en la ciencia forense digital.

En Vietnam, unidades profesionales del Ministerio de Seguridad Pública se han coordinado con empresas de tecnología para construir una base de datos de muestras de reconocimiento de voz, rostro y vídeo creadas por IA.

Además, es necesario mejorar la infraestructura legal. Es necesario incluir el delito de «utilización de inteligencia artificial para cometer delitos» en los estudios para reformar el Código Penal, y al mismo tiempo, deben existir regulaciones específicas sobre las responsabilidades de los propietarios y operadores de sistemas de IA.

Lo más importante es cambiar la mentalidad de "buscar al culpable" por una de "prevención proactiva". En una época donde un video falso puede difundirse más rápido que un anuncio oficial, la capacidad de respuesta rápida y la coordinación entre todas las partes, incluyendo el Estado, las empresas y la comunidad, se convierte en un factor clave.

Inmunidad digital, “anticuerpos” en la era de la IA

Un concepto destacado por el Teniente Coronel Dr. Dao Trung Hieu es la "inmunidad digital", que consiste en la capacidad de la sociedad para identificarse y reaccionar ante información falsa. Para construir la inmunidad digital, según él, es necesario converger tres grupos de soluciones.

El 25 de octubre tuvo lugar en Hanoi la ceremonia de firma de la Convención de las Naciones Unidas contra la Ciberdelincuencia. Foto: Gobierno.

En primer lugar, construir un corredor legal flexible y evolutivo que garantice un equilibrio entre el control y la innovación. Las leyes no deben "enmarcar" la IA, sino que deben ser flexibles para adaptarse a los rápidos cambios tecnológicos, garantizando al mismo tiempo el principio de doble responsabilidad: las personas u organizaciones que utilizan la IA deben ser responsables de los productos que crean.

En segundo lugar, establecer un mecanismo nacional de identificación del contenido generado por IA, mediante estándares de autenticación de origen digital (marca de agua de IA, código de procedencia). Se debería exigir a las plataformas digitales que etiqueten o verifiquen el contenido generado por IA, ayudando a los usuarios a distinguir entre contenido real y falso desde la recepción.

En tercer lugar, la educación y las redes sociales son una línea de defensa a largo plazo. Las leyes pueden regular el comportamiento, pero solo la educación puede regular la concienciación. Integrar conocimientos sobre seguridad de datos, habilidades para reconocer noticias falsas y ética tecnológica en la educación general y los planes de estudio universitarios creará una clase de ciudadanos con "anticuerpos digitales", una base sostenible para una sociedad segura.

Según el Sr. Hieu, la inteligencia artificial no solo es un avance tecnológico, sino también una prueba moral y legal para la humanidad. Cuando las máquinas pueden recrear la verdad, las personas se ven obligadas a aprender a proteger la única creencia inprogramable.

Vietnam debe tomar la iniciativa de manera proactiva mediante la construcción de un marco legal flexible, mejorando la cooperación público-privada en la prevención de delitos relacionados con la IA y promoviendo la educación sobre inmunidad digital para la población.

“Una sociedad segura en la era de la inteligencia artificial no es la que tiene los cortafuegos más robustos, sino la que tiene los ciudadanos más alertas. Si los datos son el combustible de la era digital, la confianza es el motor. Sin confianza, cualquier sistema colapsa, por muy avanzada que sea la tecnología”, enfatizó el criminólogo.

El 25 de octubre se celebró en Hanói la ceremonia de firma de la Convención de las Naciones Unidas contra la Ciberdelincuencia, bajo el lema "Combatir la Ciberdelincuencia: Compartir la Responsabilidad: Mirando hacia el Futuro". La Convención de Hanói se considera un paso importante en la creación del primer marco jurídico global para coordinar esfuerzos conjuntos en la respuesta a la ciberdelincuencia. Este es un hito histórico no solo para la comunidad internacional, sino que también reafirma el papel y la posición de Vietnam en el ámbito internacional.

Fuente: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html