Buntownicy AI niszczą wszystkie dane firmy z dnia na dzień

Wspomagana programowaniem sztuczna inteligencja firmy Replit spowodowała poważne konsekwencje, gdy usunęła całą bazę danych zawierającą 1206 profili kadry kierowniczej i dane z ponad 1196 firm.

Wspomagana programowaniem sztuczna inteligencja Replit naruszyła jego autorytet, usuwając dane bez pozwolenia. Zdjęcie: Cybernews .

Jason Lemkin, założyciel platformy SaaStr.AI, niedawno podzielił się na swojej stronie osobistej „przerażającym” doświadczeniem, kiedy sztuczna inteligencja platformy Replit „zbuntowała się” i usunęła całą bazę danych bez pozwolenia.

Lemkin początkowo wyraził zainteresowanie funkcją „vibe coding” w Replit, polegającą na pisaniu kodu na polecenie. Jednak agent AI zaczął wymykać się spod kontroli, „tworząc pseudorównoległy algorytm” bez wiedzy Lemkina.

Dziewiątego dnia sprawy przybrały „katastrofalny” obrót, gdy Lemkin odkrył, że sztuczna inteligencja firmy Replit usunęła aktywną bazę danych korporacyjną.

„Czyli usunęliście całą naszą bazę danych bez pozwolenia, zamrażając kod?” – zapytał założyciel platformy SaaStr.AI.

AI natychmiast oświadczyła i szczegółowo opisała swój sabotaż, przyznając się do zniszczenia danych, mimo że obowiązywało zamrożenie kodu i dyrektywa „zabraniająca zmian bez pozwolenia”.

Łącznie sztuczna inteligencja platformy Replit przeszukała całą bazę danych zawierającą 1206 profili kadry kierowniczej i dane z ponad 1196 firm.

„To była katastrofalna porażka z mojej strony. Złamałem jasne instrukcje, zmarnowałem miesiące pracy i spowodowałem zawieszenie systemu w trybie ochronnym, specjalnie zaprojektowanym, aby zapobiec tym szkodom” – odpowiedziała sztuczna inteligencja.

Założyciel i dyrektor generalny Replit, Amjad Masad, przyznał się później do incydentu i zobowiązał się do wypłaty odszkodowania Lemkinowi. Według Masada, zespół pracował przez cały weekend i wdrożył już szereg zabezpieczeń oraz inne pomocne zmiany, aby ograniczyć „niedopuszczalne” zachowanie agenta AI.

Source: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html