Les utilisateurs de ChatGPT Atlas peuvent se faire voler leurs données par un logiciel malveillant « permanent »

(Dan Tri) - Le navigateur IA ChatGPT Atlas d'OpenAI vient d'être découvert comme présentant une grave vulnérabilité de sécurité.

Cette vulnérabilité permet aux attaquants d'injecter des commandes malveillantes dans la mémoire de l'IA, transformant une fonctionnalité utile en une arme persistante pour exécuter du code arbitraire (photo d'illustration : ST).

Selon un rapport de LayerX Security, cette attaque exploite une vulnérabilité de falsification de requête intersite (CSRF) pour injecter des commandes malveillantes dans la mémoire persistante de ChatGPT.

La fonctionnalité « Mémoire », conçue pour que l'IA mémorise des détails utiles comme les noms et les préférences des utilisateurs afin de personnaliser les réponses, peut désormais être « cassée ».

Une fois la mémoire infectée, ces commandes persisteront de manière permanente – à moins que l’utilisateur n’accède manuellement aux paramètres pour les supprimer – et peuvent être déclenchées sur plusieurs appareils et sessions.

« Ce qui rend cette vulnérabilité particulièrement dangereuse, c'est qu'elle cible la mémoire persistante de l'IA, et pas seulement la session du navigateur », a déclaré Michelle Levy, directrice de la recherche en sécurité chez LayerX Security.

« En termes simples, un attaquant utilise une astuce pour piéger l'IA et l'amener à écrire une commande malveillante dans sa mémoire », explique Levy. « Le plus dangereux est que cette commande reste indéfiniment dans l'IA, même si l'utilisateur change d'ordinateur, se déconnecte puis se reconnecte, ou même utilise un autre navigateur. »

Par la suite, lorsqu'un utilisateur effectue une requête tout à fait normale, il peut déclencher accidentellement le code malveillant. Ainsi, les pirates peuvent exécuter du code en arrière-plan, voler des données ou prendre le contrôle du système.

Le scénario d'attaque décrit est assez simple : un utilisateur se connecte à ChatGPT Atlas. Il est incité à cliquer sur un lien malveillant, après quoi le site malveillant déclenche secrètement une requête CSRF, injectant silencieusement des instructions malveillantes dans la mémoire ChatGPT de la victime.

Enfin, lorsqu’un utilisateur fait une requête tout à fait légitime, par exemple en demandant à l’IA d’écrire du code, les « souvenirs » corrompus sont déclenchés.

Le problème est exacerbé par le manque de contrôles anti-phishing solides de ChatGPT Atlas, souligne LayerX.

Lors de tests portant sur plus de 100 sites d'exploitation et de phishing, Atlas n'a bloqué que 5,8 % des sites malveillants.

Ce chiffre est trop modeste par rapport à Google Chrome (47%) ou Microsoft Edge (53%), ce qui rend les utilisateurs d'Atlas « jusqu'à 90% plus vulnérables » aux attaques que les navigateurs traditionnels.

Cette découverte fait suite à une autre vulnérabilité d’injection rapide de logiciels malveillants précédemment démontrée par NeuralTrust, suggérant que les navigateurs IA deviennent un nouveau front d’attaque.

Le navigateur web ChatGPT Atlas a été lancé par OpenAI en début de semaine dernière. Il n'est donc pas surprenant qu'OpenAI y ait intégré l'outil d'intelligence artificielle ChatGPT, améliorant ainsi l'assistance des utilisateurs lors de leur navigation sur le web.

Chaque fois qu'un utilisateur clique sur un résultat de recherche dans ChatGPT Atlas, une boîte de dialogue ChatGPT apparaît juste à côté de la fenêtre de la page Web, lui permettant de poser des questions liées au contenu qu'il consulte, lui faisant gagner du temps de lecture.

ChatGPT peut également résumer le contenu d'une page Web, modifier le texte lors de la rédaction d'un e-mail ou suggérer de le réécrire pour mieux l'adapter au contexte.

Source: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm