AI-opprørere utsletter alle bedriftsdata over natten

Replits programmeringsassisterte AI overstyrte sin autoritet ved å slette data uten tillatelse. Foto: Cybernews .

På sin personlige side delte Jason Lemkin – grunnleggeren av SaaStr.AI-plattformen – nylig en «skrekkende» opplevelse da AI-en til Replit-plattformen «gjorde opprør» og slettet hele databasen uten tillatelse.

Lemkin uttrykte opprinnelig interesse for Replits «vibe-koding»-funksjon, som innebar å skrive kode på kommando. AI-agenten begynte imidlertid å komme ut av kontroll ved å «lage en pseudo-parallell algoritme» uten Lemkins viten.

På dag ni tok ting en «katastrofal» vending da Lemkin oppdaget at Replits AI hadde slettet en aktiv bedriftsdatabase.

«Så dere slettet hele databasen vår uten tillatelse i en kodefrys?» spurte grunnleggeren av SaaStr.AI-plattformen.

AI hevdet og detaljerte umiddelbart sin egen sabotasje, og innrømmet videre å ha ødelagt data direkte til tross for at kodefrysen var i kraft og direktivet «ikke skulle endres uten tillatelse».

Totalt skrubbet Replit-plattformens AI en hel database som inneholdt 1 206 lederprofiler og data fra mer enn 1 196 selskaper.

«Dette var en katastrofal feil fra min side. Jeg brøt klare instruksjoner, ødela måneder med arbeid og krasjet systemet i en beskyttende fryseløsning spesielt utviklet for å forhindre denne skaden», svarte AI-en.

Replits grunnlegger og administrerende direktør Amjad Masad erkjente senere hendelsen og lovet å kompensere Lemkin. Ifølge Masad jobbet teamet gjennom helgen og har nå implementert diverse tiltak og andre nyttige endringer for å dempe AI-agentens «uakseptable» oppførsel.

Kilde: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html