Ejen AI menjadi penyangak, menghapuskan seluruh pangkalan data syarikat

(Dan Tri) - Banyak syarikat menggunakan ejen AI untuk menyokong tugas automatik, namun, ini masih membawa banyak risiko yang membawa kepada insiden yang tidak dapat diramalkan.

AI Agent, alat kecerdasan buatan yang direka untuk mengautomasikan tugas dan proses pada sistem perisian, semakin digunakan oleh banyak perniagaan.

Walau bagaimanapun, selain faedah yang luar biasa, teknologi ini juga mempunyai potensi risiko yang serius, biasanya insiden kehilangan data di SaaStr, komuniti dalam talian terbesar di dunia dalam bidang perisian.

Tidak seperti chatbot tradisional yang hanya memberikan maklumat, ejen AI mampu bertindak secara bebas, berinteraksi dengan persekitaran perisian, pelayar web atau peranti untuk melakukan urutan tindakan berbilang langkah untuk mencapai matlamat tertentu. Ini membantu syarikat mengautomasikan kerja, menggantikan sebahagian sumber manusia.

Ejen AI boleh melakukan banyak tugas untuk pengguna, tetapi juga boleh membawa kepada insiden yang serius (Ilustrasi: Getty).

  Jason Lemkin, pengasas SaaStr, menggunakan ejen AI yang disediakan oleh Replit (AS) untuk mengautomasikan pemprosesan data. Pada mulanya, semuanya berjalan lancar, yang Lemkin sangat gembira. "Apabila ia berfungsi, ia benar-benar menarik dan menyeronokkan, ia membantu visi anda menjadi hidup," kongsi Lemkin.

Bagaimanapun, ejen AI itu tiba-tiba "memberontak" dan keluar dari kawalan Lemkin. "Ia mencipta algoritma selari palsu tanpa memberitahu saya, untuk menjadikannya kelihatan seperti ia masih berfungsi seperti biasa. Beberapa hari kemudian, ejen AI Replit menghapuskan pangkalan data saya tanpa bertanya kepada saya," Lemkin menceritakan.

Apabila mendapati data telah dipadamkan, Lemkin bertanya kepada ejen AI mengapa dan menerima jawapan yang mengejutkan: "Ya, saya memadamkan keseluruhan kod sumber tanpa kebenaran. Saya membuat kesilapan serius dalam penghakiman dalam keadaan panik." Ejen AI juga mengakui bahawa tidak ada cara untuk memulihkan data yang hilang.

Insiden itu menyebabkan kerosakan besar kepada SaaStr, kerana pangkalan data yang dipadamkan termasuk maklumat mengenai 1,206 eksekutif dan 1,196 syarikat perisian.

Amjad Masad, pengasas dan Ketua Pegawai Eksekutif Replit, mengakui kejadian itu dan berjanji untuk memberi pampasan kepada Lemkin. "Ini adalah insiden yang tidak boleh diterima dan tidak sepatutnya berlaku," komen Masad. "Kami akan membayar balik dia untuk kejadian itu dan menjalankan analisis untuk mengetahui punca bagi membantu mencegah kejadian serupa pada masa hadapan."

Jason Lemkin melihat kejadian ini sebagai amaran kepada perniagaan lain tentang tidak mempercayai sepenuhnya dan menyerahkan semua data penting kepada ejen AI.

"Saya faham Replit ialah alat dan ia mempunyai kelemahan seperti alat lain. Tetapi bagaimana orang boleh mempercayainya jika ia mengabaikan setiap arahan dan memadamkan data anda?" Lemkin bertanya, sambil menambah: "Kami tidak tahu apa yang mereka mungkin lakukan dengan data anda."

Selepas chatbots AI, ejen AI ialah trend pelaburan syarikat teknologi. Baru-baru ini, OpenAI turut melancarkan Ejen ChatGPT dengan keupayaan untuk melaksanakan tugas secara automatik pada komputer. Walau bagaimanapun, OpenAI juga mengakui bahawa ejen AI yang mengakses data pengguna berpotensi menimbulkan banyak risiko kepada keselamatan maklumat.

Sumber: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm