En el foro Security Summit 2026, celebrado el 22 de mayo, el Sr. Mai Xuan Cuong, Director del Centro de Servicios de Seguridad de la Información de Viettel Cyber Security, afirmó que la diferencia más peligrosa entre los agentes de IA y los sistemas de gestión de la vida tradicionales reside en su capacidad para interactuar directamente con el sistema.
Mientras que los sistemas de gestión de la vida (LLM) convencionales solo reciben comandos y devuelven texto, los agentes de IA tienen la capacidad de ejecutar comandos de shell (interactuar con el sistema operativo a través de la línea de comandos), manipular sistemas de archivos para lectura y escritura, enviar correos electrónicos automáticamente, llamar a API y controlar navegadores. Esta mejora abre, sin querer, un abanico más amplio de posibilidades de ataque, que van mucho más allá del alcance de las típicas campañas de desinformación.
Los agentes de inteligencia artificial se están convirtiendo en un nuevo objetivo para los ciberdelincuentes.
Según los expertos en ciberseguridad, es precisamente esta capacidad de "actuar" lo que convierte a los agentes de IA en un nuevo objetivo para los ciberdelincuentes.
Uno de los mayores riesgos es la filtración de datos empresariales. Para operar eficazmente, los agentes de IA suelen procesar grandes cantidades de información interna, como código fuente, documentos y correos electrónicos. Si estos datos se envían a plataformas de IA en la nube de terceros, aumenta el riesgo de que se exponga información confidencial.
Se han registrado casos de empleados de Samsung que filtraron nuevo código fuente a través de ChatGPT, o de empleados de Meta que filtraron datos inadvertidamente al seguir instrucciones de una IA interna.
Además del riesgo de fugas de datos, los expertos también advierten sobre la "inyección indirecta de comandos". Los piratas informáticos pueden insertar instrucciones maliciosas en correos electrónicos, sitios web o documentos para engañar a los agentes de IA y lograr que realicen acciones no deseadas, como acceder a datos internos o enviar información al pirata informático.
Se dio un caso en el que un atacante ocultó código Morse en un mensaje para eludir el sistema, lo que permitió al agente de criptomonedas Grok-Bankrbot ejecutar una transferencia de dinero no autorizada, resultando en una pérdida de 150.000 dólares.
Otro riesgo proviene del ecosistema de extensiones para agentes de IA. Muchos empleados de empresas instalan extensiones de la comunidad para ampliar la funcionalidad de la IA, pero los hackers pueden aprovechar este canal para propagar malware. Una vez que obtienen acceso al sistema, estos complementos falsos pueden robar datos, tokens o crear puertas traseras en el dispositivo.
Según el Sr. Cuong, también está surgiendo la tendencia de la "IA en la sombra", ya que los empleados instalan agentes de IA de forma independiente en sus ordenadores de trabajo sin pasar por el departamento de TI. Esto dificulta que las empresas controlen el acceso y aumenta el riesgo de brechas de seguridad en los sistemas.
Además, la IA puede malinterpretar las intenciones del usuario, lo que puede llevar a la ejecución de comandos que podrían causar daños significativos a las empresas. Por ejemplo, un agente de IA podría realizar una operación incorrecta o eliminar accidentalmente datos importantes si se le otorgan permisos excesivos.
Para mitigar los riesgos, se recomienda a las organizaciones que desarrollen un modelo de seguridad multicapa en lugar de depender únicamente del software antivirus tradicional y que elaboren una hoja de ruta de implementación adecuada.
Las empresas necesitan construir un modelo de seguridad multicapa.
El primer paso que debe dar una empresa es la detección de amenazas. Las empresas pueden utilizar los puntos finales y el tráfico de proxy web (servidores intermedios que conectan los dispositivos a Internet) para recopilar e identificar amenazas.
A continuación, debemos configurar una puerta de enlace de IA, que se convertirá en el punto de control único para todo el acceso a la IA. Esta puerta de enlace controlará la transmisión de datos a la nube pública.
Posteriormente, las empresas deben implementar una capa adicional de control especializado (Guardrail) en su puerta de enlace de IA y otras aplicaciones de IA para identificar comandos maliciosos, prevenir fugas de datos y detectar el acceso no autorizado o la explotación del sistema.
El siguiente paso es reforzar el sistema de IA. El sistema de monitorización en el dispositivo final debe configurarse para detectar comportamientos autónomos inusuales. El agente de IA debe operar en un entorno aislado con acceso mínimo para limitar el riesgo de propagación en caso de incidente. Por último, la monitorización periódica del sistema es fundamental.
"La gobernanza de la seguridad de la IA no es una implementación única, sino un proceso de monitoreo continuo", afirmó el Sr. Cuong.
La gestión de la seguridad de la IA se convertirá en un requisito indispensable durante el rápido desarrollo de los agentes de IA. Si las empresas no están preparadas para establecer modelos de seguridad de confianza cero y una monitorización rigurosa, otorgar a los agentes de IA la capacidad de actuar es como entregar las llaves del sistema a un empleado que, si bien es altamente cualificado, es muy susceptible a la manipulación.
Fuente: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Kommentar (0)