Seguridad de la IA: un arma de doble filo

El auge de la inteligencia artificial plantea una gran paradoja en la industria de la seguridad: la IA es al mismo tiempo la defensa más poderosa y el arma ofensiva más peligrosa.

La Inteligencia Artificial (IA) está transformando todos los aspectos de la vida, y la ciberseguridad no es la excepción. Sin embargo, el rápido desarrollo de esta tecnología plantea una gran paradoja: la IA es a la vez el escudo de defensa más sólido y el arma de ataque más peligrosa. En el evento BSides Hanoi 2025, bajo el lema "AI Hack You", destacados expertos se reunieron para analizar la naturaleza de esta arma de doble filo, esbozando un panorama general de la ciberguerra en la nueva era.

Según el Sr. Vu Duy Hien, Secretario General Adjunto y Jefe de Oficina de la Asociación Nacional de Ciberseguridad, la IA es actualmente una de las tecnologías que desempeña un papel especialmente importante, apoyando a personas y empresas en diversos ámbitos y ayudando a procesar el trabajo con mayor rapidez y eficacia. Sin embargo, en el ámbito de la ciberseguridad, la IA es un arma de doble filo.

IA - 'Guardaespaldas' inteligente

Es innegable que la IA está logrando grandes avances en el sector de la ciberseguridad. «Como aspecto positivo, la IA nos ayuda a detectar ataques con antelación, analizar datos y reforzar las defensas de la red. Muchas herramientas de seguridad inteligentes creadas gracias a la IA han reducido significativamente el tiempo de respuesta ante las amenazas», afirmó el Sr. Vu Duy Hien.

El Sr. Vu Duy Hien, Secretario General Adjunto y Jefe de Oficina de la Asociación Nacional de Seguridad Cibernética, en el taller.

Este poder queda claramente demostrado en el testimonio de la Sra. Huynh Ngoc Khanh Minh, miembro de la red sin fines de lucro Anti-Phishing. Ella explicó que, antes, cuando el trabajo antiphishing se basaba principalmente en procesos manuales, los expertos debían verificar cada enlace sospechoso uno por uno, lo que causaba un enorme retraso en las decenas de miles de denuncias diarias.

Para superar esta limitación, el equipo Antifraude ha desarrollado una nueva herramienta de IA. "Los usuarios solo tienen que pegar el enlace y la IA comprobará y mostrará automáticamente los resultados en un plazo de entre 30 segundos y 1 minuto con una precisión de hasta el 98 % ", afirmó la Sra. Khanh Minh. " Gracias a ello, el tiempo de verificación se ha reducido considerablemente en comparación con antes, lo que ayuda a las personas a detectar y prevenir proactivamente el riesgo de fraude en línea de forma eficaz y completamente gratuita".

A nivel mundial , las principales plataformas de ciberseguridad también han integrado profundamente la IA. El sistema Darktrace utiliza IA de autoaprendizaje para construir un "sistema inmunitario" para las empresas, detectando automáticamente las anomalías más pequeñas que podrían indicar un ataque desconocido. De igual manera, la plataforma CrowdStrike Falcon utiliza aprendizaje automático y análisis de comportamiento para prevenir ataques sofisticados, en lugar de depender únicamente de las "firmas" de malware conocidas.

Estas herramientas muestran cómo la IA está ayudando a los profesionales de la ciberseguridad a pasar de reactivos a proactivos, deteniendo las amenazas antes de que puedan causar daños.

IA - Un arma en manos de los malos

La otra cara de la moneda es igualmente brillante. Son las capacidades superiores de la IA las que la han convertido en una herramienta codiciada por los ciberdelincuentes. El Sr. Vu Duy Hien señaló: «Por otro lado, los ciberdelincuentes también utilizan la IA para desarrollar formas de ataque más sofisticadas, capaces de superar muchas capas de defensa tradicionales. Por lo tanto, la velocidad, la escala y la precisión de los ciberataques han aumentado drásticamente».

Ataques de phishing profundamente personalizados: con modelos de lenguaje grandes (LLM), los piratas informáticos pueden crear una serie de correos electrónicos y mensajes con lenguaje natural y contexto apropiado para cada objetivo, haciendo que incluso los usuarios más cautelosos caigan en ellos.

El auge de los deepfakes: Los ciberdelincuentes pueden falsificar la voz o el vídeo de un director ejecutivo para solicitar transferencias de dinero urgentes. Un caso famoso involucró a delincuentes que usaron IA para falsificar la voz del director ejecutivo de una empresa energética británica y lograron estafar 243.000 dólares.

Malware polimórfico: la IA se puede utilizar para crear malware que puede cambiar automáticamente su código fuente después de cada infección, lo que hace que el software antivirus tradicional sea ineficaz.

Automatizar el proceso de ataque: los piratas informáticos pueden implementar IA para escanear automáticamente millones de sistemas en busca de vulnerabilidades, realizar ataques distribuidos de denegación de servicio (DDoS) o descifrar contraseñas a velocidades vertiginosas, amplificando la escala del ataque muchas veces.

El factor humano y la carrera interminable

Ante esta realidad, los expertos coinciden en que la guerra de la ciberseguridad en la era de la IA es una carrera entre la "IA buena" y la "IA mala". Y en el centro de esta carrera, el factor humano cobra aún mayor importancia.

El Sr. Truong Duc Luong, presidente de VSEC, en el taller.

El Sr. Truong Duc Luong, presidente de la Sociedad Anónima de Seguridad Cibernética de Vietnam (VSEC), afirmó que, con 22 años de experiencia, se percató de la falta de oportunidades para la colaboración y el intercambio de conocimientos profundos entre el equipo vietnamita de ciberseguridad y el mundo, a pesar de la gran actividad de la comunidad internacional de seguridad. Esto plantea la urgente necesidad de construir una comunidad sólida.

En respuesta a esta preocupación, el Sr. Vu Duy Hien afirmó: «La IA es una tendencia irreversible, por lo que, en lugar de preocuparse, la comunidad de ciberseguridad necesita cooperar, compartir experiencias y construir juntos un ecosistema de defensa seguro que se adapte a la nueva era».

Además, el desafío no se limita al aspecto técnico. Según la abogada Nhi Pham, si bien Vietnam cuenta con documentos legales, la investigación y la tramitación aún enfrentan numerosos desafíos debido a que las violaciones a menudo trascienden las fronteras, lo que dificulta el rastreo y la recuperación de activos. Según ella, para minimizar los riesgos, es esencial una estrecha cooperación y un entendimiento mutuo entre los equipos técnico y legal.

En definitiva, la clave del éxito reside en mejorar continuamente las capacidades. El Sr. Hien enfatizó que prevenir la ciberdelincuencia en la era de la IA requiere que todos los usuarios y todas las empresas actualicen constantemente la tecnología, y en particular, los expertos en ciberseguridad deben mejorar sus capacidades profesionales y desarrollar nuevas soluciones proactivas.

La IA, un arma de doble filo, ha supuesto un enorme desafío, pero también una oportunidad sin precedentes para la industria de la ciberseguridad. El futuro del ciberespacio depende de cómo usemos y controlemos esta poderosa herramienta. La confrontación entre la IA defensiva y la ofensiva será una carrera armamentística sin fin, y la victoria solo la obtendrá el bando mejor preparado, que coopere más estrechamente y que aprenda e innove constantemente.

Huy Quang

Fuente: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html