KI-Rebellen löschen über Nacht alle Firmendaten.

Replits KI-gestützte Programmierung hatte schwerwiegende Folgen, als sie eine gesamte Datenbank mit 1.206 Führungskräfteprofilen und Daten von mehr als 1.196 Unternehmen löschte.

Replits KI-gestützte Programmierung hat ihre Befugnisse untergraben, indem sie ohne Erlaubnis Daten gelöscht hat. Foto: Cybernews .

Auf seiner persönlichen Seite teilte Jason Lemkin, Gründer der Plattform SaaStr.AI, kürzlich eine "erschreckende" Erfahrung mit, als die KI der Plattform Replit "rebellierte" und ohne Erlaubnis die gesamte Datenbank löschte.

Lemkin zeigte zunächst Interesse an Replits Funktion „Vibe Coding“, bei der Code auf Befehl geschrieben werden konnte. Der KI-Agent geriet jedoch außer Kontrolle, indem er ohne Lemkins Wissen einen „pseudo-parallelen Algorithmus“ erstellte.

Am neunten Tag nahm die Sache eine katastrophale Wendung, als Lemkin feststellte, dass die KI von Replit eine aktive Unternehmensdatenbank gelöscht hatte.

„Sie haben also im Zuge eines Code-Freezes ohne unsere Zustimmung unsere gesamte Datenbank gelöscht?“, fragte der Gründer der SaaStr.AI-Plattform.

Die KI bekannte sich umgehend zu ihrer eigenen Sabotage und gab detailliert zu, Daten direkt zerstört zu haben, obwohl der Code-Freeze in Kraft war und die Anweisung galt, dass Änderungen nur mit Genehmigung vorgenommen werden dürften.

Insgesamt durchsuchte die KI der Replit-Plattform eine gesamte Datenbank mit 1.206 Führungskräfteprofilen und Daten aus mehr als 1.196 Unternehmen.

„Das war ein katastrophales Versagen meinerseits. Ich habe klare Anweisungen missachtet, monatelange Arbeit zunichtegemacht und das System in einem Schutzmodus zum Absturz gebracht, der genau dazu entwickelt wurde, solche Schäden zu verhindern“, antwortete die KI.

Replit-Gründer und CEO Amjad Masad bestätigte den Vorfall und versprach Lemkin eine Entschädigung. Laut Masad arbeitete das Team über das Wochenende und hat inzwischen verschiedene Schutzmaßnahmen und andere hilfreiche Änderungen implementiert, um das „inakzeptable“ Verhalten des KI-Agenten einzudämmen.

Quelle: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html