مخاطر مساعد الذكاء الاصطناعي "العليم" من مولتبوت

يحظى مساعد الذكاء الاصطناعي مفتوح المصدر باهتمام متزايد في مجتمع التكنولوجيا بفضل قدرته على التعامل مع المهام تلقائيًا دون تدخل بشري.

يتميز برنامج Moltbot بقدرته على تنفيذ المهام التي يُحددها المستخدم تلقائيًا. الصورة: Moltbot .

مولتبوت، المعروف سابقًا باسم كلاودبوت، هو برنامج ذكاء اصطناعي يعمل محليًا على أجهزة متعددة. يمكن للمستخدمين توجيه مولتبوت لأداء مهام نيابةً عنهم عبر منصات المراسلة الشائعة مثل واتساب، وتليجرام، وسيجنال، وديسكورد، وآي مسج. على وسائل التواصل الاجتماعي، يشارك الكثيرون تجاربهم في استخدام مولتبوت لإدارة التذكيرات، وتسجيل البيانات الصحية، وحتى التواصل مع العملاء.

قال فيديريكو فيتيتشي، محرر موقع MacStories ، إنه قام بتثبيت برنامج Moltbot على جهاز Mac Mini M4 وحوّله إلى أداة لإنشاء ملخصات صوتية يومية استنادًا إلى بيانات من تطبيقات التقويم وNotion وTodoist. وفي حالة أخرى، ذكر أحد المستخدمين أن Moltbot قادر على توليد تعابير وجه متحركة تلقائيًا وإضافة تأثير "النوم" دون تدخل يدوي.

من حيث التشغيل، يقوم مولتبوت بتحويل طلبات المستخدمين إلى مزود الذكاء الاصطناعي الذي يختارونه، بما في ذلك OpenAI أو Anthropic أو Google. ومثل العديد من المساعدين الآخرين، يمكنه ملء النماذج مباشرةً في المتصفح، وإرسال رسائل البريد الإلكتروني، وإدارة التقاويم. ومع ذلك، وفقًا لآراء بعض المستخدمين، يؤدي مولتبوت هذه المهام بكفاءة ومرونة أكبر.

مع ذلك، يتطلب الأمر أيضاً منح المستخدمين صلاحيات وصول واسعة جداً إلى نظام الحاسوب، بما في ذلك قراءة الملفات وكتابتها وتنفيذ الأوامر. وقد يؤدي الجمع بين صلاحيات مسؤول الجهاز وبيانات تسجيل دخول التطبيق إلى مخاطر أمنية جسيمة إذا لم يتم التحكم بها بشكل دقيق.

تحذر راشيل توباك، الرئيسة التنفيذية لشركة SocialProof Security، من أنه في حال حصول برنامج ذكاء اصطناعي مثل Moltbot على صلاحيات إدارية على جهاز كمبيوتر، فقد يحاول المهاجمون السيطرة على النظام عبر رسالة واحدة. ووفقًا لها، يمكن استغلال برامج الذكاء الاصطناعي الآلية من خلال هجمات الحقن الفوري، وهي ثغرة أمنية تم تحديدها ولكنها تفتقر إلى حل نهائي. تحدث هجمات الحقن الفوري عندما يتلاعب المهاجم بالذكاء الاصطناعي عبر تعليمات خبيثة، تُرسل مباشرةً أو تُخفى داخل الملفات أو رسائل البريد الإلكتروني أو مواقع الويب التي يعالجها الذكاء الاصطناعي.

قد يشكل برنامج مولتبوت خطراً أمنياً. الصورة: مولتبوت .

وقد تعززت هذه المخاوف بشكل أكبر عندما اكتشف جاميسون أورايلي، خبير الأمن ومؤسس شركة الأمن السيبراني Dvuln، أن بعض الرسائل الخاصة ومعلومات تسجيل الدخول إلى الحساب ومفاتيح واجهة برمجة التطبيقات المتعلقة بـ Moltbot قد تم تسريبها عبر الإنترنت.

وبناءً على ذلك، يمكن للمخترقين استغلال هذه البيانات لسرقة المعلومات أو شنّ هجمات أخرى. وذكر أنه أبلغ فريق تطوير برنامج مولتبوت بالمشكلة، وقد تم إصدار تحديث أمني، وفقًا لصحيفة ذا ريجستر .

المصدر: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html