Apakah yang boleh dilakukan oleh perniagaan untuk mengelakkan daripada "ditentang" oleh ejen AI?

DNVN - AI sedang berkembang daripada model bahasa mudah (LLM) yang hanya tahu cara "bercakap" kepada Ejen AI – "pembantu digital" – yang mampu melaksanakan tugas kompleks secara automatik, menjanjikan untuk menjadi tenaga kerja digital yang berkuasa pada masa hadapan. Walau bagaimanapun, pemberian kuasa kepada AI untuk bertindak membuka banyak risiko serangan baharu, mengancam keselamatan maklumat perniagaan.

Di forum Sidang Kemuncak Keselamatan 2026 yang diadakan pada 22 Mei, Encik Mai Xuan Cuong - Pengarah Pusat Perkhidmatan Keselamatan Maklumat, Viettel Cyber ​​​​Security, menyatakan bahawa perbezaan paling berbahaya antara Ejen AI dan LLM tradisional terletak pada keupayaan mereka untuk berinteraksi secara langsung dengan sistem.

Walaupun LLM konvensional hanya menerima arahan dan mengembalikan teks, Ejen AI mempunyai keupayaan untuk melaksanakan arahan shell (berinteraksi dengan sistem pengendalian melalui baris arahan), memanipulasi sistem fail untuk membaca dan menulis, menghantar e-mel secara automatik, memanggil API dan mengawal pelayar. Peningkatan ini secara tidak sengaja membuka pelbagai kemungkinan serangan yang lebih luas, jauh melangkaui skop kempen maklumat salah biasa.

Encik Mai Xuan Cuong - Pengarah Pusat Perkhidmatan Keselamatan Maklumat, Viettel Cyber ​​​​Security.

Ejen AI menjadi sasaran baharu penjenayah siber.

Menurut pakar keselamatan siber, keupayaan untuk "bertindak" inilah yang menjadikan Ejen AI sasaran baharu bagi penjenayah siber.

Salah satu risiko terbesar ialah kebocoran data perusahaan. Untuk beroperasi dengan berkesan, ejen AI selalunya perlu memproses sejumlah besar maklumat dalaman seperti kod sumber, dokumen dan e-mel. Jika data ini dihantar ke platform AI awan pihak ketiga, risiko maklumat sulit terdedah akan meningkat.

Terdapat kes yang direkodkan di mana pekerja Samsung membocorkan kod sumber baharu melalui ChatGPT, atau pekerja Meta secara tidak sengaja membocorkan data dengan mengikuti arahan daripada AI dalaman.

Selain risiko kebocoran data, pakar juga memberi amaran tentang "suntikan gesaan tidak langsung." Penggodam boleh memasukkan arahan berniat jahat ke dalam e-mel, laman web atau dokumen untuk memperdaya ejen AI agar melakukan tindakan yang tidak diingini, seperti mengakses data dalaman atau menghantar maklumat kepada penggodam.

Terdapat satu kes di mana penyerang menyembunyikan kod Morse dalam mesej untuk memintas sistem, membolehkan ejen mata wang kripto Grok-Bankrbot melaksanakan pemindahan wang tanpa kebenaran, mengakibatkan kerugian sebanyak $150,000.

Satu lagi risiko berpunca daripada ekosistem sambungan untuk ejen AI. Ramai pekerja dalam perniagaan memasang sambungan daripada komuniti untuk mengembangkan fungsi AI, tetapi penggodam boleh mengeksploitasi saluran ini untuk menyebarkan perisian hasad. Sebaik sahaja diberikan akses sistem, pemalam palsu ini boleh mencuri data, token atau mencipta pintu belakang pada peranti.

Menurut Encik Cuong, trend "Shadow AI" juga muncul apabila pekerja memasang ejen AI secara bebas pada komputer kerja mereka tanpa melalui jabatan IT. Ini menyukarkan perniagaan untuk mengawal akses dan meningkatkan risiko pelanggaran keselamatan sistem.

Tambahan pula, AI boleh salah tafsir niat pengguna, yang membawa kepada pelaksanaan arahan yang boleh menyebabkan kerosakan yang ketara kepada perniagaan. Contohnya, ejen AI mungkin melakukan operasi yang salah atau secara tidak sengaja memadam data penting jika diberikan kebenaran yang berlebihan.

Bagi mengurangkan risiko, organisasi dinasihatkan untuk membina model keselamatan berbilang lapisan dan bukannya bergantung sepenuhnya pada perisian antivirus tradisional dan untuk membangunkan pelan tindakan pelaksanaan yang sesuai.

Perniagaan perlu membina model keselamatan berbilang lapisan.

Langkah pertama yang perlu diambil oleh perniagaan ialah pengesanan ancaman. Perniagaan boleh menggunakan titik akhir dan trafik proksi web (pelayan perantaraan yang menghubungkan peranti ke Internet) untuk mengagregat dan mengenal pasti ancaman.

Seterusnya, kita perlu menyediakan gerbang AI, menjadikannya titik kawalan tunggal untuk semua akses AI. Gerbang ini akan mengawal penghantaran data ke awan awam.

Seterusnya, perniagaan perlu melaksanakan lapisan kawalan khusus tambahan (Guardrail) pada gerbang AI mereka dan aplikasi AI lain untuk mengenal pasti arahan berniat jahat, mencegah kebocoran data dan mengesan akses atau eksploitasi sistem yang tidak dibenarkan.

Langkah seterusnya adalah untuk mewujudkan bala bantuan untuk Ejen AI. Sistem pemantauan di titik akhir mesti dikonfigurasikan untuk mengesan "tingkah laku autonomi" yang luar biasa. Ejen AI harus dikendalikan dalam persekitaran terpencil dengan akses minimum untuk menghadkan risiko penyebaran jika insiden berlaku. Akhir sekali, pemantauan sistem yang kerap adalah penting.

"Tadbir urus keselamatan AI bukanlah penggunaan sekali sahaja, tetapi proses pemantauan berterusan," kata Encik Cuong.

Pengurusan keselamatan AI akan menjadi keperluan mandatori semasa tempoh pembangunan ejen AI yang pesat. Jika perniagaan tidak bersedia untuk mewujudkan model keselamatan Zero Trust dan pemantauan yang ketat, memperkasakan ejen AI untuk bertindak adalah seperti menyerahkan kunci sistem kepada pekerja yang, walaupun berkemahiran tinggi, sangat mudah terdedah kepada manipulasi.

Damai

Sumber: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445