Muchos desafíos de la IA en la nueva era

A medida que la IA se vuelve más accesible y cada vez más personas y empresas la utilizan a través de herramientas comunes, los piratas informáticos también pueden automatizar ataques, acelerar operaciones e implementar campañas más complejas para lograr sus objetivos ilegales.

Kaspersky revela los tipos de ciberataques que utilizan IA

Estos son los tipos de ataques que Kaspersky ha observado: ChatGPT se puede utilizar para desarrollar malware y desplegar ataques automáticamente a múltiples víctimas; los programas de IA se infiltran en los datos de los usuarios en los teléfonos inteligentes y, a través del proceso de análisis de datos confidenciales, pueden "leer" completamente los mensajes, contraseñas y códigos bancarios de las víctimas; los algoritmos de inteligencia de enjambre ayudan a las redes informáticas automatizadas (bonets) a restaurar redes maliciosas que han sido eliminadas por las soluciones de seguridad.

La investigación de Kaspersky sobre el uso de IA para descifrar contraseñas muestra que la mayoría de estas se cifran mediante algoritmos de hash como MD5 y SHA. Una simple operación puede convertir una contraseña en un flujo de texto cifrado, pero revertir el proceso supone un gran desafío.

Mediante la IA, los cibercriminales pueden explotar contenido fraudulento, como texto, imágenes, audio y vídeo , para lanzar ataques de ingeniería social. Se utilizan modelos de lenguaje complejos como ChatGPT-4o para crear scripts y mensajes de phishing altamente sofisticados. Superando las barreras lingüísticas, la IA puede redactar un correo electrónico auténtico, basándose únicamente en información de redes sociales. Incluso puede imitar el estilo de escritura de la víctima. Esto dificulta aún más la detección del phishing.

Al mismo tiempo, el deepfake existe como un problema en ciberseguridad, aunque anteriormente se consideraba producto de la investigación científica . Suplantar la identidad de famosos para obtener beneficios económicos es el método más común. Además, los estafadores también usan el deepfake para robar cuentas, hacer llamadas falsas a amigos y familiares de las víctimas y apropiarse de sus bienes.

Además de explotar la tecnología de IA para actividades ilegales, los cibercriminales también pueden atacar los algoritmos de IA. Por ejemplo, los ataques de "inyección de aviso" introducen comandos maliciosos en grandes modelos de lenguaje, incluso contraviniendo reglas previamente restringidas; y los ataques adversariales añaden campos de información ocultos a imágenes o audio para afectar la capacidad de clasificación de imágenes del sistema de aprendizaje automático.

La IA se está integrando gradualmente en todos los aspectos de la vida humana, desde Apple Intelligence y Google Gemini hasta Microsoft Copilot. Por lo tanto, abordar las vulnerabilidades de la IA debe ser una prioridad absoluta. Kaspersky lleva muchos años utilizando tecnología de IA para proteger a clientes y socios, buscando continuamente vulnerabilidades en los sistemas de IA, aumentando su resiliencia e investigando activamente técnicas de ciberataque para ofrecer una protección fiable contra los ataques de IA.

Kim Thanh

Fuente: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html