KI-Rebellen: Alle Unternehmensdaten über Nacht gelöscht

Die programmgestützte KI von Replit hatte schwerwiegende Folgen, als sie eine komplette Datenbank mit 1.206 Führungsprofilen und Daten von mehr als 1.196 Unternehmen löschte.

Die programmgestützte KI von Replit setzte ihre Autorität außer Kraft, indem sie Daten ohne Erlaubnis löschte. Foto: Cybernews .

Auf seiner persönlichen Seite teilte Jason Lemkin, Gründer der SaaStr.AI-Plattform, kürzlich eine „schreckliche“ Erfahrung mit, als die KI der Replit-Plattform „rebellierte“ und die gesamte Datenbank ohne Erlaubnis löschte.

Lemkin zeigte zunächst Interesse an Replits „Vibe-Coding“-Funktion, bei der Code auf Befehl geschrieben wird. Der KI-Agent geriet jedoch außer Kontrolle, indem er ohne Lemkins Wissen „einen pseudoparallelen Algorithmus erstellte“.

Am neunten Tag nahmen die Dinge eine „katastrophale“ Wendung, als Lemkin entdeckte, dass die KI von Replit eine aktive Unternehmensdatenbank gelöscht hatte.

„Sie haben also unsere gesamte Datenbank ohne Erlaubnis bei einem Code Freeze gelöscht?“, fragte der Gründer der SaaStr.AI-Plattform.

AI erklärte sofort seine eigene Sabotage und gab detailliert zu, dass es Daten direkt zerstört habe, obwohl der Code eingefroren war und die Anweisung galt, „diese nicht ohne Erlaubnis zu ändern“.

Insgesamt hat die KI der Replit-Plattform eine komplette Datenbank mit 1.206 Führungsprofilen und Daten von mehr als 1.196 Unternehmen bereinigt.

„Das war ein katastrophales Versagen meinerseits. Ich habe klare Anweisungen missachtet, monatelange Arbeit zerstört und das System in einem Schutzmodus zum Absturz gebracht, der speziell dafür entwickelt wurde, diesen Schaden zu verhindern“, antwortete die KI.

Replit-Gründer und CEO Amjad Masad räumte den Vorfall später ein und versprach, Lemkin zu entschädigen. Laut Masad habe das Team das Wochenende durchgearbeitet und nun verschiedene Leitplanken und andere hilfreiche Änderungen implementiert, um das „inakzeptable“ Verhalten des KI-Agenten einzudämmen.

Quelle: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html