El peligro de que los delincuentes posean "inteligencia artificial oscura"

Las herramientas de IA específicamente entrenadas para ciberataques son cada vez más efectivas, lo que dificulta contrarrestarlas.

La IA se está convirtiendo en una poderosa herramienta para los ciberdelincuentes. Foto: Cato Networks .

No solo los usuarios comunes, sino también los ciberdelincuentes, utilizan cada vez más la IA para crear ataques más sofisticados que nunca. En menos de dos años, las herramientas de IA que apoyan a los hackers han evolucionado rápidamente en cuanto a funcionalidades y eficiencia.

Adrian Hia, director de Kaspersky para Asia y Japón (APJ), afirmó que la IA oscura desempeña un papel fundamental en el rápido crecimiento del malware. Según datos de Kaspersky, se crean casi medio millón de programas maliciosos al día.

"La IA oscura es como la web oscura: el lado oscuro de la web que usamos todos los días", dijo el Sr. Hia.

Sergey Lozhkin, jefe del equipo global de investigación y análisis (GReAT) de Kaspersky para Asia- Pacífico (APAC) y Oriente Medio, África y Turquía (META), afirmó que la IA oscura es completamente diferente de los chatbots de IA convencionales, como ChatGPT o Gemini.

La IA con la que los usuarios están familiarizados se crea para ayudarles y realizar tareas legítimas, e incluso si se les ordena crear malware o realizar actividades ilegales, los usuarios tendrán dificultades para lograr sus objetivos.

Mientras tanto, la IA oscura «es en realidad un lenguaje de aprendizaje automático o chatbots creados exclusivamente para realizar actividades maliciosas en el ciberespacio», afirmó el Sr. Lozhkin. Estas IA están entrenadas para crear malware, contenido de phishing o incluso un marco completo que los ciberdelincuentes pueden usar para cometer fraude.

Sistema de IA oculto solo para hackers reputados

Estos sistemas, que el Sr. Lozhkin llama Black Hat GPT o “black hat GPT”, existen desde 2023. Representantes de Kaspersky dijeron que en ese momento, la IA era muy básica, creaba código muy malo y podía detectarse de inmediato.

Sin embargo, recientemente los sistemas GPT maliciosos se han vuelto más completos, capaces de ofrecer numerosas funciones, desde la creación de malware y contenido fraudulento hasta la suplantación de identidad de voces y vídeos . Algunos ejemplos son WormGPT, DarkBard y FraudGPT.

Sergey Lozhkin, investigador de Kaspersky, advierte que la calidad de la IA oscura está mejorando cada vez más. Foto: Minh Khoi.

Uno de los descubrimientos más inquietantes de Kaspersky fue la existencia de sistemas privados de IA oscura, disponibles únicamente para ciberdelincuentes de renombre. Para acceder a estos sistemas, los hackers deben forjarse una reputación en foros clandestinos.

“Solo se puede acceder a este tipo de sistemas si se es de confianza. Es necesario forjar una reputación en foros clandestinos para obtener acceso a estos asistentes”, afirmó un experto de Kaspersky.

Lozhkin afirmó que Kaspersky cuenta con una unidad de "Inteligencia de Huella Digital" que dedica años a infiltrarse en foros clandestinos y a monitorear y rastrear su actividad. Una vez que la empresa obtiene acceso a nuevos sistemas, continúa invirtiendo mucho tiempo en comprender cómo se utiliza la IA oscura, sus funciones y su eficacia.

La IA oscura se está fortaleciendo.

La IA oscura se está convirtiendo en una herramienta eficaz para hackers expertos. Para quienes solo tienen conocimientos básicos de programación, usar un generador de ransomware podría resultar en software fácilmente detectable por los antivirus. Sin embargo, para hackers experimentados, la IA oscura puede aumentar la productividad en la programación, creando nuevo malware.

"Esta calidad depende mucho de cada plataforma específica o de la IA oscura. Algunas generan código de muy baja calidad, pero también hay herramientas que pueden alcanzar 7 u 8 puntos sobre 10", compartió el Sr. Lozhkin con Tri Thuc - Znews .

Un ejemplo es la capacidad de crear código polimórfico. Antes, cuando un antivirus detectaba código malicioso, los hackers tenían que invertir mucho tiempo en modificarlo. Ahora, la IA oscura puede hacerlo casi instantáneamente para crear una versión más difícil de detectar.

Además, los mensajes de correo electrónico oscuros están superando la barrera del idioma en los ataques de phishing. Los expertos de Kaspersky afirman que la nueva generación de correos electrónicos de phishing es más difícil de detectar debido a su inglés casi perfecto, que incluso puede "imitar a la perfección la voz del director ejecutivo".

Algunos sistemas de IA oscura "todo en uno" pueden generar código, integrar la suplantación de voz y enviar correos electrónicos de phishing. Foto: Kaspersky.

La capacidad del sistema especializado de IA oscura para crear voces e imágenes falsas es cada vez más precisa. El Sr. Lozhkin incluso afirmó que, gracias a su experiencia como trabajador de seguridad, "ya no cree en las videollamadas".

Sin embargo, los expertos de Kaspersky también afirmaron que los usuarios aún pueden reconocer una llamada fraudulenta a través del comportamiento personal, los hábitos de habla y algunas características únicas.

“Estas características son difíciles de falsificar, así que intente contactar directamente con la persona que cree que está siendo suplantada”, dijo el investigador de seguridad a Tri Thuc – Znews .

"Carrera armamentística de IA"

El desarrollo de la IA oscura ha desatado una carrera armamentística tecnológica entre ciberdelincuentes y expertos en ciberseguridad. «Personalmente, ahora uso la IA para todo: investigación, programación, ingeniería inversa. Mi productividad este año es entre 10 y 20 veces mayor que antes», admite Lozhkin.

"Si no utilizas la IA para crear un mecanismo de defensa mientras los malos la utilizan para atacar, perderás. Este es el comienzo de una carrera entre los buenos y los malos que utilizan la IA", advirtió.

Adrian Hia, director de Kaspersky APJ, afirmó que la IA oscura está contribuyendo a acelerar la creación de malware. Foto: Minh Khoi.

Google informó haber bloqueado más de 20 actividades maliciosas de grupos patrocinados por estados que intentaban usar ChatGPT para crear malware y planificar ataques. En 2024, identificaron 40 grupos APT respaldados por gobiernos que utilizaban modelos de IA.

Resultan especialmente preocupantes los sistemas completos como Xanthorox, que ofrece un servicio de “paquete completo” por 200 dólares al mes, integrando generación de voz, correos electrónicos de phishing y otras herramientas de ataque en una interfaz fácil de usar.

Los expertos de Kaspersky advierten que la IA oscura aún está en sus inicios. Adrian Hia predice que en los próximos años su coste será mucho menor, y todavía se desconoce hasta dónde llegará su desarrollo.

“Pero de lo que estoy absolutamente seguro es de que estaremos preparados, porque estamos haciendo lo mismo pero desde el lado opuesto”, comentó el señor Lozhkin.

Fuente: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html