Seguridad de la IA: Un arma de doble filo

La inteligencia artificial (IA) está transformando todos los aspectos de la vida, y la ciberseguridad no es la excepción. Sin embargo, el rápido desarrollo de esta tecnología plantea una gran paradoja: la IA es a la vez el escudo de defensa más sólido y el arma de ataque más peligrosa. En el evento BSides Hanoi 2025, bajo el lema «La IA te hackea», destacados expertos se reunieron para analizar en profundidad la naturaleza de esta arma de doble filo, trazando un panorama general de la guerra cibernética en la nueva era.

Según Vu Duy Hien, vicesecretario general y jefe de oficina de la Asociación Nacional de Ciberseguridad, la IA es actualmente una de las tecnologías que desempeña un papel especialmente importante, apoyando a particulares y empresas en numerosos ámbitos y contribuyendo a agilizar y optimizar los procesos. Sin embargo, en el ámbito de la ciberseguridad, la IA es un arma de doble filo.

IA - 'guardaespaldas' inteligente

Es innegable que la IA está logrando grandes avances en la industria de la ciberseguridad. «En el lado positivo, la IA nos ayuda a detectar ataques de forma temprana, analizar datos y fortalecer las defensas de la red. Muchas herramientas de seguridad inteligentes creadas gracias a la IA han reducido significativamente el tiempo de respuesta ante las amenazas», afirmó el Sr. Vu Duy Hien.

El Sr. Vu Duy Hien, Secretario General Adjunto y Jefe de Oficina de la Asociación Nacional de Ciberseguridad, estuvo presente en el taller.

Este poder queda claramente demostrado a través del testimonio de Huynh Ngoc Khanh Minh, miembro de la red sin ánimo de lucro Anti-Phishing. Explicó que, en el pasado, cuando la lucha contra el phishing se basaba principalmente en procesos manuales, los expertos tenían que verificar cada enlace sospechoso uno por uno, lo que provocaba una enorme demora en la gestión de las decenas de miles de informes diarios.

Para superar esta limitación, el equipo antifraude ha desarrollado una nueva herramienta de IA. «Los usuarios solo tienen que pegar el enlace; la IA lo comprobará automáticamente y mostrará los resultados en 30 segundos o 1 minuto con una precisión de hasta el 98 % », afirmó Khanh Minh. « Gracias a esto, el tiempo de verificación se reduce drásticamente, lo que ayuda a las personas a detectar y prevenir de forma proactiva el riesgo de fraude en línea, de manera eficaz y totalmente gratuita».

A nivel mundial , las principales plataformas de ciberseguridad han integrado profundamente la IA. El sistema Darktrace utiliza IA de autoaprendizaje para crear un «sistema inmunitario» para las empresas, detectando automáticamente las anomalías más sutiles que podrían indicar un ataque desconocido. De forma similar, la plataforma CrowdStrike Falcon utiliza aprendizaje automático y análisis de comportamiento para prevenir ataques sofisticados, en lugar de basarse únicamente en las «firmas» de malware conocidas.

Estas herramientas muestran cómo la IA está ayudando a los profesionales de la ciberseguridad a pasar de un enfoque reactivo a uno proactivo, deteniendo las amenazas antes de que puedan causar daños.

La IA: un arma en manos de los malos

La otra cara de la moneda es igualmente brillante. Son las capacidades superiores de la IA las que la han convertido en una herramienta codiciada por los ciberdelincuentes. El Sr. Vu Duy Hien señaló: “Por otro lado, los ciberdelincuentes también utilizan la IA para desarrollar formas de ataque más sofisticadas, capaces de superar numerosas capas de defensa tradicionales. Por consiguiente, la velocidad, la escala y la precisión de los ciberataques han aumentado drásticamente”.

Ataques de phishing profundamente personalizados: Con grandes modelos de lenguaje (LLM), los hackers pueden crear una serie de correos electrónicos y mensajes con lenguaje natural y contexto apropiado para cada objetivo, haciendo que incluso los usuarios más cautelosos caigan en la trampa.

El auge de los deepfakes: Los ciberdelincuentes pueden falsificar la voz o el vídeo de un director ejecutivo para solicitar transferencias de dinero urgentes. Un caso famoso involucró a delincuentes que utilizaron inteligencia artificial para falsificar la voz del director ejecutivo de una empresa energética británica y estafar con éxito 243 000 dólares.

Malware polimórfico: La IA puede utilizarse para crear malware que puede cambiar automáticamente su código fuente después de cada infección, lo que hace que el software antivirus tradicional sea ineficaz.

Automatización del proceso de ataque: Los hackers pueden implementar IA para escanear automáticamente millones de sistemas en busca de vulnerabilidades, llevar a cabo ataques de denegación de servicio distribuido (DDoS) o descifrar contraseñas a velocidades vertiginosas, amplificando la escala del ataque muchas veces.

El factor humano y la carrera sin fin

Ante esta realidad, los expertos coinciden en que la guerra de ciberseguridad en la era de la IA es una carrera entre la "IA buena" y la "IA mala". Y en el centro de esta carrera, el factor humano cobra aún mayor importancia.

El Sr. Truong Duc Luong - Presidente de VSEC - en el Taller.

El Sr. Truong Duc Luong, presidente de la Compañía Anónima de Ciberseguridad de Vietnam (VSEC), afirmó que, con 22 años de experiencia, ha constatado la falta de oportunidades para la colaboración y el intercambio de conocimientos especializados entre el equipo vietnamita de ciberseguridad y el resto del mundo, a pesar de la gran actividad de la comunidad internacional de seguridad. Esto plantea la necesidad urgente de construir una comunidad sólida.

En respuesta a esta preocupación, el Sr. Vu Duy Hien dijo: "La IA es una tendencia irreversible, por lo que en lugar de preocuparse, la comunidad de ciberseguridad necesita cooperar, compartir experiencias y construir juntos un ecosistema de defensa seguro que se adapte a la nueva era".

Además, el desafío no reside únicamente en el aspecto técnico. Según la abogada Nhi Pham, si bien Vietnam cuenta con documentación legal, la investigación y la gestión de los casos aún se enfrentan a numerosos retos, dado que las infracciones suelen ser transfronterizas, lo que dificulta el rastreo y la recuperación de los activos. En su opinión, para minimizar los riesgos, es fundamental una estrecha cooperación y un entendimiento mutuo entre los equipos técnicos y jurídicos.

En definitiva, la clave del éxito reside en la mejora continua de las capacidades. El Sr. Hien hizo hincapié en que la prevención del cibercrimen en la era de la IA exige que tanto usuarios como empresas actualicen constantemente su tecnología y, en particular, que los expertos en ciberseguridad perfeccionen sus competencias profesionales y desarrollen soluciones nuevas y proactivas.

La inteligencia artificial (IA), con su doble naturaleza, ha supuesto un enorme desafío, pero también una oportunidad sin precedentes para la industria de la ciberseguridad. El futuro del ciberespacio depende de cómo usemos y controlemos esta poderosa herramienta. La confrontación entre la IA defensiva y la ofensiva será una carrera armamentística sin fin, y la victoria solo la alcanzará quien esté mejor preparado, coopere más estrechamente y aprenda e innove constantemente.

Huy Quang

Fuente: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html