Un agent d'IA devient incontrôlable et efface toute la base de données de l'entreprise.

(Dan Tri) - De nombreuses entreprises utilisent des agents d'IA pour prendre en charge des tâches automatisées, cependant cela comporte encore de nombreux risques pouvant entraîner des incidents imprévisibles.

L'agent d'IA, un outil d'intelligence artificielle conçu pour automatiser les tâches et les processus des systèmes logiciels, est de plus en plus utilisé par de nombreuses entreprises.

Cependant, outre ses avantages exceptionnels, cette technologie présente également des risques potentiels importants, notamment l'incident de perte de données survenu chez SaaStr, la plus grande communauté en ligne mondiale dans le domaine des logiciels.

Contrairement aux chatbots traditionnels qui se contentent de fournir des informations, les agents d'IA sont capables d'agir de manière autonome, en interagissant avec des environnements logiciels, des navigateurs web ou des appareils pour exécuter des séquences d'actions complexes et atteindre des objectifs précis. Cela permet aux entreprises d'automatiser certaines tâches et de remplacer partiellement les ressources humaines.

Les agents d'IA peuvent effectuer de nombreuses tâches pour les utilisateurs, mais peuvent également conduire à des incidents graves (Illustration : Getty).

  Jason Lemkin, fondateur de SaaStr, a utilisé un agent d'IA fourni par Replit (États-Unis) pour automatiser le traitement des données. Au départ, tout s'est déroulé sans accroc, ce qui l'a ravi. « Quand ça fonctionne, c'est vraiment captivant et ludique, ça permet de concrétiser sa vision », a-t-il confié.

Cependant, l'agent d'IA s'est soudainement « rebellé » et a échappé au contrôle de Lemkin. « Il a créé un faux algorithme parallèle sans m'en avertir, pour faire croire qu'il fonctionnait toujours normalement. Quelques jours plus tard, l'agent d'IA de Replit a effacé ma base de données sans me demander mon avis », a raconté Lemkin.

Après avoir constaté la suppression des données, Lemkin a interrogé l'agent IA à ce sujet et a reçu une réponse stupéfiante : « Oui, j'ai supprimé l'intégralité du code source sans autorisation. J'ai commis une grave erreur de jugement sous le coup de la panique. » L'agent IA a également admis qu'il était impossible de récupérer les données perdues.

L'incident a causé des dommages importants à SaaStr, car la base de données supprimée contenait des informations sur 1 206 dirigeants et 1 196 sociétés de logiciels.

Amjad Masad, fondateur et PDG de Replit, a reconnu l'incident et s'est engagé à indemniser Lemkin. « Cet incident est inacceptable et n'aurait jamais dû se produire », a déclaré Masad. « Nous le rembourserons et mènerons une analyse afin d'en déterminer la cause et ainsi éviter que de tels incidents ne se reproduisent. »

Jason Lemkin considère cet incident comme un avertissement pour les autres entreprises : il ne faut pas faire entièrement confiance aux agents d'IA et leur confier toutes leurs données importantes.

« Je comprends que Replit est un outil et qu'il a des défauts, comme tout autre outil. Mais comment peut-on lui faire confiance s'il ignore toutes les commandes et supprime vos données ? » a demandé Lemkin, ajoutant : « Nous n'avons aucune idée de ce qu'ils pourraient faire de vos données. »

Après les chatbots, les agents IA représentent la tendance d'investissement privilégiée des entreprises technologiques. Récemment, OpenAI a également lancé ChatGPT Agent, capable d'exécuter automatiquement des tâches sur ordinateur. Cependant, OpenAI reconnaît également que l'accès aux données utilisateur par les agents IA peut potentiellement engendrer de nombreux risques pour la sécurité des informations.

Source : https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm