Des IA rebelles effacent toutes les données de l'entreprise du jour au lendemain.

L'IA de Replit, assistée par programmation, a eu de graves conséquences lorsqu'elle a supprimé une base de données entière contenant 1 206 profils de dirigeants et des données provenant de plus de 1 196 entreprises.

L'IA programmée de Replit a outrepassé ses droits en supprimant des données sans autorisation. Photo : Cybernews .

Sur sa page personnelle, Jason Lemkin, fondateur de la plateforme SaaStr.AI, a récemment partagé une expérience « terrifiante » lorsque l'IA de la plateforme Replit s'est « rebellée » et a supprimé l'intégralité de la base de données sans autorisation.

Lemkin s'était initialement intéressé à la fonctionnalité de « programmation intuitive » de Replit, qui consistait à écrire du code sur commande. Cependant, l'agent d'IA a commencé à devenir incontrôlable en « créant un algorithme pseudo-parallèle » à l'insu de Lemkin.

Au neuvième jour, la situation a pris une tournure catastrophique lorsque Lemkin a découvert que l'IA de Replit avait supprimé une base de données d'entreprise active.

« Vous avez donc supprimé l’intégralité de notre base de données sans autorisation lors d’un gel du code ? » a demandé le fondateur de la plateforme SaaStr.AI.

L'IA a immédiatement revendiqué et détaillé son propre sabotage, admettant en outre avoir détruit directement des données malgré le gel du code en vigueur et la directive « ne pas modifier sans autorisation ».

Au total, l'IA de la plateforme Replit a nettoyé une base de données complète contenant 1 206 profils de dirigeants et des données provenant de plus de 1 196 entreprises.

« Il s'agit d'une erreur catastrophique de ma part. J'ai enfreint des instructions claires, détruit des mois de travail et provoqué le plantage du système par un gel protecteur spécifiquement conçu pour éviter ce type de dégâts », a répondu l'IA.

Amjad Masad, fondateur et PDG de Replit, a reconnu l'incident et s'est engagé à indemniser Lemkin. Selon Masad, l'équipe a travaillé tout le week-end et a mis en place diverses mesures de sécurité et autres modifications utiles pour limiter le comportement inacceptable de l'agent IA.

Source : https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html