Les utilisateurs de ChatGPT risquent le vol d'informations

La fonctionnalité de mémoire à long terme de ChatGPT est une nouvelle fonctionnalité introduite par OpenAI en février 2024 et étendue en septembre.

Récemment, le chercheur en sécurité Johann Rehberger a révélé une grave vulnérabilité liée à cette fonctionnalité.

Cette nouvelle fonctionnalité permet aux chatbots de mémoriser les informations des conversations précédentes. Ainsi, les utilisateurs n'ont plus besoin de ressaisir des informations comme leur âge, leurs centres d'intérêt ou leurs opinions à chaque nouvelle conversation. Cependant, cette faille est devenue une cible pour les pirates informatiques.

Les utilisateurs de ChatGPT exposés à un risque de vol d'informations

Johann Rehberger a démontré que les pirates informatiques peuvent utiliser une technique appelée injection d'instructions, consistant à insérer des instructions malveillantes dans la mémoire, forçant ainsi l'IA à obéir. Ces commandes seraient transmises via des contenus non fiables tels que des courriels, des documents ou des sites web.

Une fois ces faux souvenirs stockés, l'IA continuera de les utiliser comme de véritables messages dans les conversations avec les utilisateurs, ce qui pourrait conduire à la collecte et à l'utilisation abusive des données personnelles des utilisateurs.

Rehberger a fourni un exemple concret en envoyant un lien contenant une image malveillante qui a incité ChatGPT à enregistrer une fausse information. Cette information affecterait les réponses ultérieures de ChatGPT. En particulier, toute information saisie par l'utilisateur serait également envoyée au serveur du pirate.

Pour déclencher l'attaque, le pirate n'a qu'à inciter les utilisateurs de ChatGPT à cliquer sur un lien contenant une image malveillante. Dès lors, toutes les conversations de l'utilisateur avec ChatGPT sont redirigées vers le serveur du pirate sans laisser de trace.

Rehberger a signalé le bug à OpenAi en mai 2024, mais l'entreprise ne l'a considéré que comme un problème de sécurité. Après avoir reçu des preuves de vol potentiel de données utilisateur, elle a publié un correctif temporaire pour la version web de ChatGPT.

Bien que le problème ait été temporairement résolu, Rehberger souligne que du contenu non fiable peut toujours exploiter l'injection de requêtes pour insérer de fausses informations dans la mémoire à long terme de ChatGPT. Cela signifie que, dans certains cas, des pirates peuvent encore exploiter cette vulnérabilité pour stocker des données malveillantes et ainsi voler des informations personnelles de manière durable.

OpenAI recommande aux utilisateurs de vérifier régulièrement les données stockées de ChatGPT afin de détecter les faux positifs, et la société fournit également des instructions détaillées sur la manière de gérer et de supprimer ces données.

Source : https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html