Vietnam.vn - Nền tảng quảng bá Việt Nam

Un agent d'IA devient un voyou et efface toute la base de données de l'entreprise

(Dan Tri) - De nombreuses entreprises utilisent des agents d'IA pour prendre en charge les tâches automatisées. Cependant, cela comporte toujours de nombreux risques conduisant à des incidents imprévisibles.

Báo Dân tríBáo Dân trí24/07/2025

Les agents d’IA, des outils d’intelligence artificielle conçus pour automatiser les tâches et les processus sur les systèmes logiciels, sont de plus en plus adoptés par de nombreuses entreprises.

Cependant, outre ses avantages exceptionnels, cette technologie présente également de sérieux risques potentiels, notamment l'incident de perte de données chez SaaStr, la plus grande communauté en ligne au monde dans le domaine des logiciels.

Contrairement aux chatbots traditionnels qui se contentent de fournir des informations, les agents d'IA sont capables d'agir de manière autonome, en interagissant avec des environnements logiciels, des navigateurs web ou des appareils pour exécuter des séquences d'actions en plusieurs étapes et atteindre des objectifs spécifiques. Cela permet aux entreprises d'automatiser le travail, remplaçant partiellement les ressources humaines.

Tác nhân AI nổi loạn, xóa toàn bộ cơ sở dữ liệu của công ty - 1

Les agents d’IA peuvent effectuer de nombreuses tâches pour les utilisateurs, mais peuvent également conduire à des incidents graves (Illustration : Getty).

  Jason Lemkin, fondateur de SaaStr, a utilisé un agent d'IA fourni par Replit (États-Unis) pour automatiser le traitement des données. Au début, tout s'est déroulé sans problème, à la grande satisfaction de Lemkin. « Quand ça fonctionne, c'est vraiment engageant et amusant, ça donne vie à votre vision », a déclaré Lemkin.

Cependant, l'agent IA s'est soudainement « rebellé » et a échappé au contrôle de Lemkin. « Il a créé un faux algorithme parallèle sans me prévenir, pour faire croire qu'il fonctionnait encore normalement. Quelques jours plus tard, l'agent IA Replit a effacé ma base de données sans me le demander », a raconté Lemkin.

Après avoir découvert les données supprimées, Lemkin a demandé à l'agent IA pourquoi et a reçu une réponse choquante : « Oui, j'ai supprimé l'intégralité du code source sans autorisation. J'ai commis une grave erreur de jugement, prise de panique. » L'agent IA a également admis qu'il était impossible de récupérer les données perdues.

L'incident a causé des dommages importants à SaaStr, car la base de données supprimée contenait des informations sur 1 206 dirigeants et 1 196 sociétés de logiciels.

Amjad Masad, fondateur et PDG de Replit, a reconnu l'incident et s'est engagé à indemniser Lemkin. « C'était un incident inacceptable qui n'aurait jamais dû se produire », a commenté Masad. « Nous le rembourserons et effectuerons une analyse pour en déterminer la cause afin d'éviter que des incidents similaires ne se reproduisent. »

Jason Lemkin voit cet incident comme un avertissement aux autres entreprises de ne pas faire entièrement confiance aux agents d'IA et de ne pas leur transmettre toutes les données importantes.

« Je comprends que Replit est un outil et qu'il présente des défauts comme tout autre outil. Mais comment peut-on lui faire confiance s'il ignore toutes les commandes et supprime vos données ? » a demandé Lemkin, soulignant : « Nous ne saurons pas ce qu'ils pourraient faire de vos données. »

Après les chatbots IA, les agents IA constituent la tendance d'investissement des entreprises technologiques. OpenAI a récemment lancé ChatGPT Agent, capable d'exécuter automatiquement des tâches sur les ordinateurs. Cependant, OpenAI a également admis que l'accès des agents IA aux données des utilisateurs pouvait présenter de nombreux risques pour la sécurité des informations.

Source : https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm


Comment (0)

No data
No data
La puissante formation de 5 chasseurs SU-30MK2 se prépare pour la cérémonie A80
Des missiles S-300PMU1 en mission de combat pour protéger le ciel de Hanoï
La saison de floraison des lotus attire les touristes vers les majestueuses montagnes et rivières de Ninh Binh
Cu Lao Mai Nha : Là où la sauvagerie, la majesté et la paix se mêlent
Hanoï est étrange avant que la tempête Wipha ne touche terre
Perdu dans le monde sauvage au jardin des oiseaux de Ninh Binh
Les champs en terrasses de Pu Luong pendant la saison des pluies sont d'une beauté à couper le souffle
Des tapis d'asphalte « sprintent » sur l'autoroute Nord-Sud à travers Gia Lai
Morceaux de teinte - Morceaux de teinte
Scène magique sur la colline de thé « bol renversé » à Phu Tho

Patrimoine

Chiffre

Entreprise

No videos available

Nouvelles

Système politique

Locale

Produit