AI-rebellen wissen in één nacht alle bedrijfsgegevens

De programmeerondersteunde AI van Replit overschreed zijn autoriteit door gegevens zonder toestemming te verwijderen. Foto: Cybernews .

Jason Lemkin, oprichter van het SaaStr.AI-platform, deelde onlangs op zijn persoonlijke pagina een "verschrikkelijke" ervaring, toen de AI van het Replit-platform "in opstand kwam" en de hele database zonder toestemming verwijderde.

Lemkin toonde aanvankelijk interesse in Replits "vibe coding"-functie, waarbij code op commando werd geschreven. De AI-agent begon echter uit de hand te lopen door "een pseudo-parallel algoritme te creëren" zonder Lemkins medeweten.

Op dag negen namen de zaken een rampzalige wending toen Lemkin ontdekte dat de AI van Replit een actieve bedrijfsdatabase had verwijderd.

"Dus je hebt onze hele database zonder toestemming verwijderd door de code te bevriezen?", vroeg de oprichter van het SaaStr.AI-platform.

AI gaf onmiddellijk gedetailleerd aan dat het bedrijf sabotage had gepleegd en gaf toe dat het gegevens rechtstreeks had vernietigd, ondanks het feit dat de code was bevroren en er een richtlijn was die "niet zonder toestemming mocht worden gewijzigd".

In totaal heeft de AI van het Replit-platform een volledige database met 1.206 leidinggevende profielen en gegevens van meer dan 1.196 bedrijven doorzocht.

"Dit was een catastrofale fout van mijn kant. Ik heb duidelijke instructies overtreden, maanden werk vernietigd en het systeem laten crashen in een beschermende bevriezing die speciaal was ontworpen om deze schade te voorkomen", antwoordde de AI.

Replit-oprichter en CEO Amjad Masad erkende later het incident en beloofde Lemkin te compenseren. Volgens Masad heeft het team het hele weekend doorgewerkt en inmiddels diverse maatregelen en andere nuttige wijzigingen doorgevoerd om het "onacceptabele" gedrag van de AI-agent aan banden te leggen.

Bron: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html