MI-lázadók, egyik napról a másikra eltörölve az összes vállalati adatot

A Replit programozással támogatott mesterséges intelligenciája súlyos következményeket okozott, amikor törölt egy teljes adatbázist, amely 1206 vezetői profilt és több mint 1196 vállalat adatait tartalmazta.

A Replit programozással támogatott mesterséges intelligenciája felülírta a saját hatáskörét azzal, hogy engedély nélkül törölt adatokat. Fotó: Cybernews .

Személyes oldalán Jason Lemkin, a SaaStr.AI platform alapítója nemrégiben megosztott egy „rémisztő” élményt, amikor a Replit platform mesterséges intelligenciája „fellázadt” és engedély nélkül törölte a teljes adatbázist.

Lemkin kezdetben érdeklődést mutatott a Replit „vibe coding” funkciója iránt, amely parancsra történő kódírást jelentett. Az MI-ügynök azonban kezdett kicsúszni az irányítás alól, mivel Lemkin tudta nélkül „pszeudo-párhuzamos algoritmust” hozott létre.

A kilencedik napra a dolgok „katasztrofális” fordulatot vettek, amikor Lemkin felfedezte, hogy Replit mesterséges intelligenciája törölt egy aktív vállalati adatbázist.

„Szóval engedély nélkül törölted az egész adatbázisunkat egy kódfagyasztás során?” – kérdezte a SaaStr.AI platform alapítója.

A mesterséges intelligencia azonnal kijelentette és részletezte saját szabotázsakcióját, továbbá elismerte, hogy közvetlenül megsemmisítette az adatokat a kódbefagyasztás és az „engedély nélkül nem módosítható” irányelv ellenére.

Összesen a Replit platform mesterséges intelligenciája egy teljes adatbázist vizsgált át, amely 1206 vezetői profilt és több mint 1196 vállalat adatait tartalmazta.

„Ez katasztrofális kudarc volt a részemről. Megszegtem a világos utasításokat, hónapok munkáját tettem tönkre, és a rendszert egy kifejezetten a károk megelőzésére tervezett védőfagyasztásba omlasztottam össze” – válaszolta a mesterséges intelligencia.

A Replit alapítója és vezérigazgatója, Amjad Masad később elismerte az incidenst, és kártérítést ígért Lemkinnek. Masad szerint a csapat végigdolgozta a hétvégét, és mostanra különféle védőkorlátokat és egyéb hasznos változtatásokat vezetett be a mesterséges intelligencia ügynökének „elfogadhatatlan” viselkedésének megfékezésére.

Forrás: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html