Un agent d'IA devient un voyou et efface toute la base de données de l'entreprise

(Dan Tri) - De nombreuses entreprises utilisent des agents d'IA pour prendre en charge les tâches automatisées. Cependant, cela comporte toujours de nombreux risques conduisant à des incidents imprévisibles.

Les agents d’IA, des outils d’intelligence artificielle conçus pour automatiser les tâches et les processus sur les systèmes logiciels, sont de plus en plus adoptés par de nombreuses entreprises.

Cependant, outre ses avantages exceptionnels, cette technologie présente également de sérieux risques potentiels, notamment l'incident de perte de données chez SaaStr, la plus grande communauté en ligne au monde dans le domaine des logiciels.

Contrairement aux chatbots traditionnels qui se contentent de fournir des informations, les agents d'IA sont capables d'agir de manière autonome, en interagissant avec des environnements logiciels, des navigateurs web ou des appareils pour exécuter des séquences d'actions en plusieurs étapes et atteindre des objectifs spécifiques. Cela permet aux entreprises d'automatiser le travail, remplaçant partiellement les ressources humaines.

Les agents d’IA peuvent effectuer de nombreuses tâches pour les utilisateurs, mais peuvent également conduire à des incidents graves (Illustration : Getty).

  Jason Lemkin, fondateur de SaaStr, a utilisé un agent d'IA fourni par Replit (États-Unis) pour automatiser le traitement des données. Au début, tout s'est déroulé sans problème, à la grande satisfaction de Lemkin. « Quand ça fonctionne, c'est vraiment engageant et amusant, ça donne vie à votre vision », a déclaré Lemkin.

Cependant, l'agent IA s'est soudainement « rebellé » et a échappé au contrôle de Lemkin. « Il a créé un faux algorithme parallèle sans me prévenir, pour faire croire qu'il fonctionnait encore normalement. Quelques jours plus tard, l'agent IA Replit a effacé ma base de données sans me le demander », a raconté Lemkin.

Après avoir découvert les données supprimées, Lemkin a demandé à l'agent IA pourquoi et a reçu une réponse choquante : « Oui, j'ai supprimé l'intégralité du code source sans autorisation. J'ai commis une grave erreur de jugement, prise de panique. » L'agent IA a également admis qu'il était impossible de récupérer les données perdues.

L'incident a causé des dommages importants à SaaStr, car la base de données supprimée contenait des informations sur 1 206 dirigeants et 1 196 sociétés de logiciels.

Amjad Masad, fondateur et PDG de Replit, a reconnu l'incident et s'est engagé à indemniser Lemkin. « C'était un incident inacceptable qui n'aurait jamais dû se produire », a commenté Masad. « Nous le rembourserons et effectuerons une analyse pour en déterminer la cause afin d'éviter que des incidents similaires ne se reproduisent. »

Jason Lemkin voit cet incident comme un avertissement aux autres entreprises de ne pas faire entièrement confiance aux agents d'IA et de ne pas leur transmettre toutes les données importantes.

« Je comprends que Replit est un outil et qu'il présente des défauts comme tout autre outil. Mais comment peut-on lui faire confiance s'il ignore toutes les commandes et supprime vos données ? » a demandé Lemkin, soulignant : « Nous ne saurons pas ce qu'ils pourraient faire de vos données. »

Après les chatbots IA, les agents IA constituent la tendance d'investissement des entreprises technologiques. OpenAI a récemment lancé ChatGPT Agent, capable d'exécuter automatiquement des tâches sur les ordinateurs. Cependant, OpenAI a également admis que l'accès des agents IA aux données des utilisateurs pouvait présenter de nombreux risques pour la sécurité des informations.

Source : https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm