El peligro de que los criminales posean una 'IA oscura'

Las herramientas de IA entrenadas específicamente para ciberataques son cada vez más efectivas, lo que hace que sea más complejo contrarrestarlas.

La IA se está convirtiendo en un poderoso asistente para los ciberdelincuentes. Foto: Cato Networks .

No solo los usuarios comunes, sino también los ciberdelincuentes utilizan cada vez más la IA para crear ataques más sofisticados que nunca. En menos de dos años, las herramientas de IA para apoyar a los hackers han evolucionado rápidamente en cuanto a funcionalidades y eficacia.

Adrian Hia, director de Kaspersky Asia y Japón (APJ), afirmó que la IA oscura desempeña un papel fundamental en el rápido crecimiento del malware. Las estadísticas de Kaspersky muestran que se crean casi medio millón de programas maliciosos a diario.

«La IA oscura es como la red oscura: el lado oscuro de la web que usamos a diario», afirmó el Sr. Hia.

Sergey Lozhkin, jefe del Equipo de Investigación y Análisis Global (GReAT) de Kaspersky para las regiones de Asia- Pacífico (APAC) y Medio Oriente, África y Turquía (META), dijo que Dark AI es completamente diferente de los chatbots de IA convencionales, como ChatGPT o Gemini.

La IA con la que están familiarizados los usuarios está creada para ayudarlos y realizar tareas legítimas, e incluso si se les ordena crear malware o realizar actividades ilegales, los usuarios tendrán dificultades para lograr sus objetivos.

Mientras tanto, la IA oscura «es en realidad LLM o chatbots creados exclusivamente para realizar actividades maliciosas en el ciberespacio», afirmó Lozhkin. Estas IA están entrenadas para generar malware, contenido de phishing o incluso un marco completo que los ciberdelincuentes pueden usar para cometer fraudes.

Sistema de IA oculto solo para hackers con buena reputación

Estos sistemas, que el Sr. Lozhkin llama Black Hat GPT o "black hat GPT", existen desde 2023. Representantes de Kaspersky afirmaron que, en ese momento, la IA era muy básica, creaba código muy malo y podía detectarse de inmediato.

Sin embargo, recientemente, los sistemas GPT de sombrero negro se han vuelto más completos, capaces de ofrecer numerosas funciones, desde la creación de código malicioso y contenido fraudulento hasta la suplantación de voz y vídeo . Algunos nombres incluyen WormGPT, DarkBard o FraudGPT.

Sergey Lozhkin, investigador de Kaspersky, advierte que la calidad de la IA oscura es cada vez mejor. Foto: Minh Khoi.

Uno de los descubrimientos más inquietantes de Kaspersky fue la existencia de sistemas privados de IA oscura, disponibles solo para ciberdelincuentes de renombre. Para acceder a estos sistemas privados de IA, los hackers deben forjarse una reputación en foros clandestinos.

“Solo se puede acceder a este tipo de sistemas si se es de confianza. Es necesario forjarse una reputación en foros clandestinos para acceder a estos asistentes”, afirmó un experto de Kaspersky.

Lozhkin afirmó que Kaspersky cuenta con una unidad de "Inteligencia de Huella Digital" que dedica años a infiltrarse en foros clandestinos y a monitorear y rastrear su actividad. Una vez que la compañía accede a nuevos sistemas, continúa dedicando mucho tiempo a comprender cómo funciona la IA Oscura, sus funciones y su eficacia.

La IA oscura se está volviendo más fuerte

La IA oscura se está convirtiendo en una herramienta eficaz para hackers expertos. Para quienes solo tienen conocimientos básicos de programación, solicitar un generador de ransomware puede generar software fácilmente reconocible por los antivirus. Sin embargo, para hackers expertos y experimentados, la IA oscura puede aumentar la productividad de la programación y crear nuevo malware.

"Esta calidad depende mucho de cada plataforma específica o IA oscura. Algunas generan código de muy baja calidad, pero también hay herramientas que pueden alcanzar 7-8 puntos sobre 10", comentó el Sr. Lozhkin a Tri Thuc - Znews .

Un ejemplo es la capacidad de crear código polimórfico. Anteriormente, cuando un antivirus detectaba un fragmento de código malicioso, los hackers tardaban mucho en modificarlo. Ahora, la IA oscura puede hacerlo casi instantáneamente para crear una versión más difícil de detectar.

Además, los LLM oscuros están rompiendo la barrera del idioma en los ataques de phishing. Los expertos de Kaspersky afirman que la nueva generación de correos electrónicos de phishing es más difícil de detectar debido a su inglés casi perfecto, que incluso puede parecer la voz del director ejecutivo.

Algunos sistemas de IA oscura "todo en uno" pueden generar código, integrar suplantación de voz y enviar correos electrónicos de phishing. Foto: Kaspersky.

La capacidad del sistema especializado de IA Oscura para crear voces e imágenes falsas también es cada vez más perfecta. El Sr. Lozhkin incluso afirmó que «ya no cree en las videollamadas» gracias a su experiencia como trabajador de seguridad.

Sin embargo, los expertos de Kaspersky también dijeron que los usuarios aún pueden reconocer una llamada fraudulenta a través del comportamiento personal, los hábitos de habla y algunas características únicas.

"Estas características son difíciles de falsificar, así que intenta contactar directamente a la persona que crees que está siendo falsificada", dijo el investigador de seguridad a Tri Thuc – Znews .

"Carrera armamentística de la IA"

El desarrollo de la IA oscura ha desatado una carrera armamentística tecnológica entre ciberdelincuentes y profesionales de la ciberseguridad. «Personalmente, ahora uso la IA para todo: investigación, programación, ingeniería inversa. Mi productividad este año es entre 10 y 20 veces mayor que antes», admite Lozhkin.

"Si no se usa la IA para crear un mecanismo de defensa mientras los malos la usan para atacar, se perderá. Este es el comienzo de una carrera entre los buenos y los malos que usan la IA", advirtió.

Adrian Hia, director de Kaspersky APJ, afirmó que la IA oscura está ayudando a crear malware más rápido. Foto: Minh Khoi.

Google informó haber bloqueado más de 20 actividades maliciosas de grupos patrocinados por estados que intentaban usar ChatGPT para crear malware y planificar ataques. En 2024, identificaron 40 grupos APT respaldados por gobiernos mediante modelos de IA.

Especialmente preocupantes son los frameworks completos como Xanthorox, que ofrece un servicio completo por 200 dólares al mes. El sistema integra generación de voz, correos electrónicos de phishing y otras herramientas de ataque en una interfaz intuitiva.

Los expertos de Kaspersky advierten que la IA oscura aún está en sus inicios. Adrian Hia predice que, en los próximos años, su uso probablemente será mucho más económico, y aún se desconoce su grado de desarrollo.

“Pero de lo que estoy absolutamente seguro es de que estaremos preparados, porque estamos haciendo lo mismo, pero desde el lado opuesto”, comentó el Sr. Lozhkin.

Fuente: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html