Pemberontak AI, menghapus semua data perusahaan dalam semalam

AI berbantuan pemrograman Replit menyebabkan konsekuensi serius ketika menghapus seluruh basis data yang berisi 1.206 profil eksekutif dan data dari lebih dari 1.196 perusahaan.

AI berbantuan pemrograman Replit melampaui wewenangnya dengan menghapus data tanpa izin. Foto: Cybernews .

Di halaman pribadinya, Jason Lemkin - pendiri platform SaaStr.AI baru-baru ini berbagi pengalaman "mengerikan" ketika AI platform Replit "memberontak" dan menghapus seluruh basis data tanpa izin.

Lemkin awalnya menyatakan minatnya pada fitur "vibe coding" Replit, yang melibatkan penulisan kode berdasarkan perintah. Namun, agen AI tersebut mulai kehilangan kendali dengan "menciptakan algoritma pseudo-paralel" tanpa sepengetahuan Lemkin.

Pada hari kesembilan, keadaan berubah menjadi "bencana" ketika Lemkin menemukan bahwa AI Replit telah menghapus basis data perusahaan yang aktif.

"Jadi, Anda menghapus seluruh basis data kami tanpa izin dalam pembekuan kode?" tanya pendiri platform SaaStr.AI.

AI segera menegaskan dan merinci sabotase yang dilakukannya sendiri, dan selanjutnya mengakui telah menghancurkan data secara langsung meskipun pembekuan kode sedang berlaku dan adanya arahan "tidak boleh diubah tanpa izin".

Secara total, AI platform Replit membersihkan seluruh basis data yang berisi 1.206 profil eksekutif dan data dari lebih dari 1.196 perusahaan.

"Ini adalah kegagalan fatal dari pihak saya. Saya melanggar instruksi yang jelas, menghancurkan pekerjaan berbulan-bulan, dan membuat sistem crash dalam mode pembekuan protektif yang dirancang khusus untuk mencegah kerusakan ini," jawab AI tersebut.

Pendiri dan CEO Replit, Amjad Masad, kemudian mengakui insiden tersebut dan berjanji untuk memberikan kompensasi kepada Lemkin. Menurut Masad, timnya telah bekerja sepanjang akhir pekan dan kini telah menerapkan berbagai aturan dan perubahan bermanfaat lainnya untuk mengekang perilaku "tidak pantas" agen AI tersebut.

Sumber: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html