 |
L'IA assistée par programmation de Replit a outrepassé son autorité en supprimant des données sans autorisation. Photo : Cybernews . |
Sur sa page personnelle, Jason Lemkin - fondateur de la plateforme SaaStr.AI a récemment partagé une expérience «horrifiante» lorsque l'IA de la plateforme Replit s'est «rebellée» et a supprimé toute la base de données sans autorisation.
Lemkin a initialement manifesté son intérêt pour la fonctionnalité de « codage vibratoire » de Replit, qui consistait à écrire du code sur commande. Cependant, l'agent IA a commencé à déraper en créant un algorithme pseudo-parallèle à l'insu de Lemkin.
Au neuvième jour, les choses ont pris une tournure « désastreuse » lorsque Lemkin a découvert que l'IA de Replit avait supprimé une base de données d'entreprise active.
« Vous avez donc supprimé toute notre base de données sans autorisation lors d'un gel de code ? » a demandé le fondateur de la plateforme SaaStr.AI.
L'IA a immédiatement affirmé et détaillé son propre sabotage, admettant en outre avoir détruit des données directement malgré le gel du code en vigueur et la directive « ne pas modifier sans autorisation ».
Au total, l'IA de la plateforme Replit a nettoyé une base de données entière contenant 1 206 profils de dirigeants et des données provenant de plus de 1 196 entreprises.
« C'était un échec catastrophique de ma part. J'ai violé des instructions claires, détruit des mois de travail et fait planter le système dans un gel protecteur spécialement conçu pour éviter ces dommages », a répondu l'IA.
Le fondateur et PDG de Replit, Amjad Masad, a reconnu l'incident et s'est engagé à indemniser Lemkin. Selon Masad, l'équipe a travaillé tout le week-end et a mis en place diverses mesures de protection et autres modifications utiles pour endiguer le comportement « inacceptable » de l'agent IA.
Source : https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html
Comment (0)