Risiko daripada pembantu AI 'yang mengetahui segalanya' Moltbot

Moltbot menonjol kerana keupayaannya untuk melaksanakan tugasan yang diberikan oleh pengguna secara automatik. Foto: Moltbot .

Moltbot, dahulunya dikenali sebagai Clawdbot, ialah ejen AI yang dijalankan secara tempatan merentasi pelbagai peranti. Pengguna boleh mengarahkan Moltbot untuk melaksanakan tugas bagi pihak mereka melalui platform pesanan popular seperti WhatsApp, Telegram, Signal, Discord atau iMessage. Di media sosial, ramai orang berkongsi cara mereka menggunakan Moltbot untuk mengurus peringatan, merekod data kesihatan atau berkomunikasi dengan pelanggan.

Federico Viticci, editor MacStories , berkata beliau telah memasang Moltbot pada Mac Mini M4 dan mengubahnya menjadi alat untuk mencipta ringkasan audio harian berdasarkan data daripada aplikasi Calendar, Notion dan Todoist. Dalam satu lagi contoh, seorang pengguna berkongsi bahawa Moltbot boleh menjana ekspresi muka animasi secara automatik dan menambah kesan "tidur" tanpa campur tangan manual.

Dari segi operasi, Moltbot menghantar permintaan pengguna kepada penyedia AI pilihan mereka, termasuk OpenAI, Anthropic atau Google. Seperti kebanyakan pembantu lain, ia boleh mengisi borang terus dalam pelayar, menghantar e-mel dan mengurus kalendar. Walau bagaimanapun, menurut maklum balas daripada sesetengah pengguna, Moltbot melaksanakan tugas-tugas ini dengan lebih cekap dan fleksibel.

Walau bagaimanapun, ia juga memerlukan pengguna untuk memberikan akses yang sangat mendalam kepada sistem komputer, termasuk membaca, menulis fail dan menjalankan arahan. Menggabungkan keistimewaan pentadbir peranti dengan kelayakan log masuk aplikasi boleh mewujudkan risiko keselamatan yang serius jika tidak dikawal ketat.

Rachel Tobac, Ketua Pegawai Eksekutif SocialProof Security, memberi amaran bahawa jika ejen AI seperti Moltbot memperoleh keistimewaan pentadbiran pada komputer, penyerang boleh cuba mengawal sistem melalui satu mesej. Menurutnya, ejen AI automatik boleh dieksploitasi melalui serangan suntikan segera, satu kelemahan yang telah dikenal pasti tetapi tidak mempunyai penyelesaian yang pasti. Serangan suntikan segera berlaku apabila penyerang memanipulasi AI dengan arahan berniat jahat, dihantar secara langsung atau tersembunyi dalam fail, e-mel atau laman web yang diproses oleh AI.

Moltbot mungkin menimbulkan risiko keselamatan. Foto: Moltbot .

Kebimbangan ini diperkukuhkan lagi apabila Jamieson O'Reilly, seorang pakar keselamatan dan pengasas syarikat keselamatan siber Dvuln, mendapati bahawa beberapa mesej peribadi, maklumat log masuk akaun dan kunci API yang berkaitan dengan Moltbot telah dibocorkan dalam talian.

Sehubungan itu, data ini boleh dieksploitasi oleh penggodam untuk mencuri maklumat atau menjalankan serangan lain. Beliau berkata beliau melaporkan isu tersebut kepada pasukan pembangunan Moltbot dan satu tampalan telah dikeluarkan, menurut The Register .

Sumber: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html