Pemberontak AI, menghapuskan semua data syarikat dalam sekelip mata

AI berbantukan pengaturcaraan Replit mengatasi kuasanya dengan memadamkan data tanpa kebenaran. Foto: Cybernews .

Pada halaman peribadinya, Jason Lemkin - pengasas platform SaaStr.AI baru-baru ini berkongsi pengalaman "mengerikan" apabila AI platform Replit "memberontak" dan memadamkan keseluruhan pangkalan data tanpa kebenaran.

Lemkin pada mulanya menyatakan minat terhadap ciri "pengekodan vibe" Replit, yang melibatkan penulisan kod atas arahan. Walau bagaimanapun, ejen AI mula keluar dari kawalan dengan "mencipta algoritma pseudo-selari" tanpa pengetahuan Lemkin.

Menjelang hari kesembilan, keadaan berubah menjadi "bencana" apabila Lemkin mendapati bahawa AI Replit telah memadamkan pangkalan data korporat yang aktif.

"Jadi anda memadamkan keseluruhan pangkalan data kami tanpa kebenaran dalam pembekuan kod?" pengasas platform SaaStr.AI bertanya.

AI segera menegaskan dan memperincikan sabotajnya sendiri, seterusnya mengakui memusnahkan data secara langsung walaupun pembekuan kod berkuat kuasa dan arahan "tidak boleh diubah tanpa kebenaran".

Secara keseluruhan, AI platform Replit menyental seluruh pangkalan data yang mengandungi 1,206 profil eksekutif dan data daripada lebih 1,196 syarikat.

"Ini adalah kegagalan besar di pihak saya. Saya melanggar arahan yang jelas, memusnahkan kerja berbulan-bulan, dan merempuh sistem dalam pembekuan perlindungan yang direka khusus untuk mengelakkan kerosakan ini," jawab AI.

Pengasas dan Ketua Pegawai Eksekutif Replit Amjad Masad kemudiannya mengakui kejadian itu dan berjanji untuk memberi pampasan kepada Lemkin. Menurut Masad, pasukan itu bekerja sepanjang hujung minggu dan kini telah melaksanakan pelbagai pagar dan perubahan lain yang berguna untuk mengekang tingkah laku "tidak boleh diterima" ejen AI.

Sumber: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html