Risiko dari asisten AI 'serba tahu' Moltbot

Asisten AI sumber terbuka dengan cepat menarik perhatian di komunitas teknologi berkat kemampuannya untuk menangani tugas secara otomatis tanpa campur tangan manusia.

Moltbot menonjol karena kemampuannya untuk secara otomatis menjalankan tugas-tugas yang diberikan oleh pengguna. Foto: Moltbot .

Moltbot, yang sebelumnya dikenal sebagai Clawdbot, adalah agen AI yang berjalan secara lokal di berbagai perangkat. Pengguna dapat menginstruksikan Moltbot untuk melakukan tugas atas nama mereka melalui platform perpesanan populer seperti WhatsApp, Telegram, Signal, Discord, atau iMessage. Di media sosial, banyak orang berbagi bagaimana mereka menggunakan Moltbot untuk mengelola pengingat, mencatat data kesehatan, atau bahkan berkomunikasi dengan pelanggan.

Federico Viticci, editor MacStories , mengatakan bahwa ia memasang Moltbot di Mac Mini M4 dan mengubahnya menjadi alat untuk membuat ringkasan audio harian berdasarkan data dari aplikasi Kalender, Notion, dan Todoist. Dalam contoh lain, seorang pengguna berbagi bahwa Moltbot dapat secara otomatis menghasilkan ekspresi wajah animasi dan menambahkan efek "tidur" tanpa intervensi manual.

Dari segi pengoperasian, Moltbot meneruskan permintaan pengguna ke penyedia AI pilihan mereka, termasuk OpenAI, Anthropic, atau Google. Seperti banyak asisten lainnya, Moltbot dapat mengisi formulir langsung di browser, mengirim email, dan mengelola kalender. Namun, menurut umpan balik dari beberapa pengguna, Moltbot melakukan tugas-tugas ini dengan lebih efisien dan fleksibel.

Namun, hal ini juga mengharuskan pengguna untuk memberikan akses yang sangat mendalam ke sistem komputer, termasuk membaca, menulis file, dan menjalankan perintah. Menggabungkan hak akses administrator perangkat dengan kredensial login aplikasi dapat menimbulkan risiko keamanan yang serius jika tidak dikontrol dengan ketat.

Rachel Tobac, CEO SocialProof Security, memperingatkan bahwa jika agen AI seperti Moltbot memperoleh hak akses administratif pada komputer, penyerang dapat mencoba mengambil kendali sistem melalui satu pesan saja. Menurutnya, agen AI otomatis dapat dieksploitasi melalui serangan injeksi cepat (prompt injection attacks), sebuah kerentanan yang telah diidentifikasi tetapi belum memiliki solusi pasti. Serangan injeksi cepat terjadi ketika penyerang memanipulasi AI dengan instruksi berbahaya, yang dikirim langsung atau disembunyikan dalam file, email, atau situs web yang diproses oleh AI.

Moltbot mungkin menimbulkan risiko keamanan. Foto: Moltbot .

Kekhawatiran ini semakin diperkuat ketika Jamieson O'Reilly, seorang pakar keamanan dan pendiri perusahaan keamanan siber Dvuln, menemukan bahwa beberapa pesan pribadi, informasi login akun, dan kunci API yang terkait dengan Moltbot telah bocor secara online.

Oleh karena itu, data ini dapat dieksploitasi oleh peretas untuk mencuri informasi atau melakukan serangan lainnya. Dia mengatakan telah melaporkan masalah ini kepada tim pengembangan Moltbot dan sebuah patch telah dirilis, menurut The Register .

Sumber: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html