Esta vulnerabilidad permite a los atacantes inyectar comandos maliciosos directamente en la memoria de la IA, convirtiendo una característica útil en un arma persistente para ejecutar código arbitrario (imagen ilustrativa: ST).
Según un informe de LayerX Security, este ataque explotó una vulnerabilidad de falsificación de solicitud entre sitios (CSRF) para inyectar comandos maliciosos en la memoria persistente de ChatGPT.
La función "Memoria", originalmente diseñada para que la IA recuerde detalles útiles como nombres de usuario y preferencias para respuestas personalizadas, ahora se puede "romper".
Una vez que la memoria se infecta con malware, estos comandos persistirán de forma permanente (a menos que el usuario los elimine manualmente a través de la configuración) y podrán activarse en múltiples dispositivos y sesiones.
"Lo que hace que esta vulnerabilidad sea particularmente peligrosa es que ataca la memoria persistente de la IA, no solo la sesión del navegador", dijo Michelle Levy, directora de investigación de seguridad de LayerX Security.
Levy explicó: «En pocas palabras, el atacante usa un truco para engañar a la IA, obligándola a escribir un comando malicioso en su memoria. Lo más peligroso es que este comando permanecerá permanentemente en la IA, incluso si el usuario cambia de ordenador, cierra sesión y vuelve a iniciarla, o incluso usa un navegador diferente».
Posteriormente, cuando un usuario realiza una solicitud normal, puede activar el malware sin darse cuenta. Como resultado, los hackers pueden ejecutar código de forma sigilosa, robar datos o controlar mejor el sistema.
El escenario de ataque descrito es bastante simple: primero, el usuario inicia sesión en ChatGPT Atlas. Se le engaña para que haga clic en un enlace malicioso, y luego el sitio web malicioso activa secretamente una solicitud CSRF, insertando silenciosamente instrucciones maliciosas en la memoria de ChatGPT de la víctima.
Finalmente, cuando un usuario realiza una consulta perfectamente legítima, por ejemplo pidiendo a la IA que escriba código, se activarán las "memorias" infectadas.
LayerX señala que el problema se ve agravado por la falta de controles antiphishing sólidos de ChatGPT Atlas.
En pruebas que involucraron más de 100 vulnerabilidades y sitios de phishing, Atlas solo logró bloquear el 5,8% de los sitios web maliciosos.
Esta cifra es demasiado modesta en comparación con Google Chrome (47%) o Microsoft Edge (53%), lo que hace que los usuarios de Atlas sean "hasta un 90% más vulnerables" a los ataques en comparación con los navegadores tradicionales.
Este descubrimiento sigue a otra vulnerabilidad de inyección rápida de malware demostrada previamente por NeuralTrust, que muestra que los navegadores de IA se están convirtiendo en un nuevo frente de ataque.
OpenAI lanzó el navegador web ChatGPT Atlas a principios de la semana pasada. Como era de esperar, OpenAI integró su motor de inteligencia artificial ChatGPT en este navegador, lo que ofrece una mejor asistencia a los usuarios mientras navegan por la web.
Cada vez que un usuario hace clic en un resultado de búsqueda en ChatGPT Atlas, aparecerá un cuadro de diálogo de ChatGPT justo al lado de la ventana de la página web, lo que le permitirá hacer preguntas relacionadas con el contenido que está viendo, ahorrando tiempo de lectura.
ChatGPT también puede resumir el contenido del sitio web, editar texto al redactar correos electrónicos o sugerir formas de reescribirlo para que se adapte mejor al contexto.
Fuente: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Kommentar (0)