Pada forum Security Summit 2026 yang diadakan pada tanggal 22 Mei, Bapak Mai Xuan Cuong - Direktur Pusat Layanan Keamanan Informasi, Viettel Cyber Security, menyatakan bahwa perbedaan paling berbahaya antara Agen AI dan LLM tradisional terletak pada kemampuan mereka untuk berinteraksi langsung dengan sistem.
Sementara LLM konvensional hanya menerima perintah dan mengembalikan teks, Agen AI memiliki kemampuan untuk mengeksekusi perintah shell (berinteraksi dengan sistem operasi melalui baris perintah), memanipulasi sistem file untuk membaca dan menulis, secara otomatis mengirim email, memanggil API, dan mengontrol peramban. Peningkatan ini secara tidak sengaja membuka berbagai kemungkinan serangan yang lebih luas, jauh melampaui cakupan kampanye disinformasi biasa.
Agen AI menjadi target baru bagi para penjahat siber.
Menurut para ahli keamanan siber, kemampuan untuk "bertindak" inilah yang menjadikan Agen AI sebagai target baru bagi para penjahat siber.
Salah satu risiko terbesar adalah kebocoran data perusahaan. Agar dapat beroperasi secara efektif, agen AI seringkali harus memproses sejumlah besar informasi internal seperti kode sumber, dokumen, dan email. Jika data ini dikirim ke platform AI cloud pihak ketiga, risiko terungkapnya informasi rahasia akan meningkat.
Terdapat kasus yang tercatat di mana karyawan Samsung membocorkan kode sumber baru melalui ChatGPT, atau karyawan Meta secara tidak sengaja membocorkan data dengan mengikuti instruksi dari AI internal.
Selain risiko kebocoran data, para ahli juga memperingatkan tentang "injeksi perintah tidak langsung". Peretas dapat menyematkan instruksi berbahaya ke dalam email, situs web, atau dokumen untuk mengelabui agen AI agar melakukan tindakan yang tidak diinginkan, seperti mengakses data internal atau mengirim informasi ke peretas.
Terdapat sebuah kasus di mana penyerang menyembunyikan kode Morse dalam sebuah pesan untuk melewati sistem, sehingga memungkinkan agen mata uang kripto Grok-Bankrbot untuk melakukan transfer uang tanpa izin, yang mengakibatkan kerugian sebesar $150.000.
Risiko lain berasal dari ekosistem ekstensi untuk agen AI. Banyak karyawan di dalam perusahaan memasang ekstensi dari komunitas untuk memperluas fungsionalitas AI, tetapi peretas dapat mengeksploitasi saluran ini untuk menyebarkan malware. Setelah mendapatkan akses sistem, plugin palsu ini dapat mencuri data, token, atau membuat pintu belakang (backdoor) pada perangkat.
Menurut Bapak Cuong, tren "Shadow AI" juga muncul karena karyawan secara mandiri memasang agen AI di komputer kerja mereka tanpa melalui departemen TI. Hal ini menyulitkan bisnis untuk mengontrol akses dan meningkatkan risiko pelanggaran keamanan sistem.
Selain itu, AI dapat salah menafsirkan niat pengguna, yang menyebabkan eksekusi perintah yang dapat menimbulkan kerugian signifikan bagi bisnis. Misalnya, agen AI mungkin melakukan operasi yang salah atau secara tidak sengaja menghapus data penting jika diberikan izin yang berlebihan.
Untuk mengurangi risiko, organisasi disarankan untuk membangun model keamanan berlapis-lapis alih-alih hanya mengandalkan perangkat lunak antivirus tradisional dan mengembangkan peta jalan implementasi yang sesuai.
Perusahaan perlu membangun model keamanan berlapis.
Langkah pertama yang perlu dilakukan bisnis adalah deteksi ancaman. Bisnis dapat menggunakan titik akhir (endpoint) dan lalu lintas proksi web (server perantara yang menghubungkan perangkat ke Internet) untuk mengumpulkan dan mengidentifikasi ancaman.
Selanjutnya, kita perlu menyiapkan gateway AI, menjadikannya titik kendali tunggal untuk semua akses AI. Gateway ini akan mengontrol transmisi data ke cloud publik.
Selanjutnya, bisnis perlu menerapkan lapisan kontrol khusus tambahan (Guardrail) pada gateway AI dan aplikasi AI lainnya untuk mengidentifikasi perintah berbahaya, mencegah kebocoran data, dan mendeteksi akses tidak sah atau eksploitasi sistem.
Langkah selanjutnya adalah membangun bala bantuan untuk Agen AI. Sistem pemantauan di titik akhir harus dikonfigurasi untuk melacak "perilaku otonom" yang tidak biasa. Agen AI harus dioperasikan di lingkungan terisolasi dengan akses minimal untuk membatasi risiko penyebaran jika terjadi insiden. Terakhir, pemantauan sistem secara berkala sangat penting.
"Tata kelola keamanan AI bukanlah penerapan sekali saja, melainkan proses pemantauan berkelanjutan," kata Bapak Cuong.
Manajemen keamanan AI akan menjadi persyaratan wajib selama periode perkembangan agen AI yang pesat. Jika bisnis tidak siap untuk membangun model keamanan Zero Trust dan pemantauan yang ketat, memberdayakan agen AI untuk bertindak sama seperti menyerahkan kunci sistem kepada seorang karyawan yang, meskipun sangat terampil, sangat rentan terhadap manipulasi.
Sumber: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Komentar (0)