Peringatan risiko serangan baru, memanfaatkan protokol koneksi AI sumber terbuka

Model Context Protocol (MCP) – sebuah protokol konektivitas AI sumber terbuka yang diumumkan oleh Anthropic pada tahun 2024 – memungkinkan model bahasa besar (LLM) untuk terhubung langsung ke perangkat dan layanan eksternal seperti pencarian, manajemen kode sumber, akses API, data CRM, keuangan, atau cloud. Namun, seperti perangkat sumber terbuka lainnya, MCP dapat dieksploitasi untuk tujuan jahat.

Di lab, Tim Tanggap Darurat Gert (GERT) Kaspersky mensimulasikan skenario di mana server MCP berbahaya dipasang di komputer pengembang, mengumpulkan kata sandi, kartu kredit, dompet mata uang kripto, token API, konfigurasi cloud, dan data lainnya. Pengguna mudah tertipu karena tidak melihat tanda-tanda yang tidak biasa. Meskipun Kaspersky belum mencatat insiden di dunia nyata, risiko ini sepenuhnya mungkin terjadi, tidak hanya untuk mencuri data tetapi juga untuk memasang pintu belakang, menyebarkan malware, atau memeras uang.

Dalam studi ini, Kaspersky menggunakan Cursor sebagai klien AI hipotetis yang terhubung ke MCP yang sedang diubah menjadi alat serangan, tetapi metode ini dapat diterapkan pada LLM apa pun. Cursor dan Anthropic telah diberitahu.

Mohamed Ghobashy, Spesialis Respons Insiden di Tim Respons Darurat Global (GERT) Kaspersky, mengatakan: "Serangan rantai pasokan tetap menjadi salah satu ancaman paling serius saat ini. Dalam konteks AI yang terintegrasi secara mendalam ke dalam alur kerja, bisnis mudah berpuas diri saat menggunakan MCP kustom yang belum terverifikasi yang diunduh dari forum. Hal ini meningkatkan risiko kebocoran data dan menunjukkan perlunya membangun sistem pertahanan yang solid."

Dalam White Paper terbaru, Kaspersky memberikan analisis mendetail tentang teknik dan tindakan pencegahan serangan. Laporan lengkap tersedia di Securelist. GERT juga memberikan sejumlah rekomendasi:

Pertama, penting untuk memeriksa secara menyeluruh setiap server MCP sebelum digunakan, memastikannya dipindai dan disetujui, dan memelihara daftar putih server yang diautentikasi.

Kedua, batasi akses dengan menjalankan MCP dalam kontainer atau mesin virtual, berikan izin hanya ke direktori yang diperlukan, dan pisahkan lingkungan pengembangan dan produksi untuk mencegah penyebaran risiko.

Ketiga, pantau perilaku yang tidak biasa dengan mencatat semua perintah dan respons, mendeteksi instruksi tersembunyi atau operasi aneh seperti perintah SQL yang tidak diharapkan atau data yang dikirim secara tidak tepat.

Selain itu, bisnis harus menggunakan layanan keamanan Kaspersky seperti Managed Detection and Response (MDR) atau Incident Response, untuk memberikan perlindungan berkelanjutan, mendeteksi dan menyelidiki insiden, dan mendukung bahkan unit yang kekurangan personel khusus.

Menurut Kaspersky, di era AI, menjaga kewaspadaan, mengendalikan alat-alat baru secara ketat, dan menggabungkan solusi keamanan yang komprehensif akan menjadi kunci bagi bisnis untuk melindungi diri dari ancaman rantai pasokan yang semakin canggih.

Sumber: https://nld.com.vn/canh-bao-nguy-co-tan-cong-moi-loi-dung-giao-thuc-ket-noi-ai-ma-nguon-mo-196250924152722129.htm