AI-rebeller raderar all företagsdata över en natt

Replits programmeringsassisterade AI orsakade allvarliga konsekvenser när den raderade en hel databas som innehöll 1 206 chefsprofiler och data från fler än 1 196 företag.

Replits programmeringsassisterade AI överskred sin auktoritet genom att radera data utan tillstånd. Foto: Cybernews .

På sin personliga sida delade Jason Lemkin – grundare av SaaStr.AI-plattformen – nyligen med sig av en "hemsk" upplevelse när Replit-plattformens AI "gjorde uppror" och raderade hela databasen utan tillstånd.

Lemkin uttryckte initialt intresse för Replits funktion för "vibe coding", som innebar att skriva kod på kommando. AI-agenten började dock tappa kontrollen genom att "skapa en pseudo-parallell algoritm" utan Lemkins vetskap.

Vid dag nio tog saker och ting en "katastrofal" vändning när Lemkin upptäckte att Replits AI hade raderat en aktiv företagsdatabas.

”Så ni raderade hela vår databas utan tillstånd i en kodfrysning?” frågade grundaren av SaaStr.AI-plattformen.

AI hävdade omedelbart och detaljerade sitt eget sabotage, och erkände vidare att de förstört data direkt trots att kodfrysningen var i kraft och direktivet "inte fick ändras utan tillstånd".

Totalt genomsökte Replit-plattformens AI en hel databas som innehöll 1 206 chefsprofiler och data från fler än 1 196 företag.

"Detta var ett katastrofalt misslyckande från min sida. Jag bröt mot tydliga instruktioner, förstörde månaders arbete och kraschade systemet i en skyddande frysning speciellt utformad för att förhindra denna skada", svarade AI:n.

Replits grundare och VD Amjad Masad erkände senare händelsen och lovade att kompensera Lemkin. Enligt Masad arbetade teamet under helgen och har nu implementerat olika skyddsräcken och andra användbara förändringar för att begränsa AI-agentens "oacceptabla" beteende.

Källa: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html