خطرات دستیار هوش مصنوعی «همه چیزدان» مولت‌بات

یک دستیار هوش مصنوعی متن‌باز به لطف توانایی‌اش در انجام خودکار وظایف بدون دخالت انسان، به سرعت در جامعه فناوری مورد توجه قرار گرفته است.

Moltbot به خاطر توانایی‌اش در انجام خودکار وظایف محول شده توسط کاربر، متمایز است. عکس: Moltbot .

Moltbot که قبلاً با نام Clawdbot شناخته می‌شد، یک عامل هوش مصنوعی است که به صورت محلی در چندین دستگاه اجرا می‌شود. کاربران می‌توانند از طریق پلتفرم‌های پیام‌رسان محبوب مانند واتس‌اپ، تلگرام، سیگنال، دیسکورد یا آی‌مسیج، Moltbot را برای انجام وظایف از طرف خود راهنمایی کنند. در رسانه‌های اجتماعی، بسیاری از افراد نحوه استفاده از Moltbot برای مدیریت یادآوری‌ها، ثبت داده‌های سلامتی یا حتی ارتباط با مشتریان را به اشتراک می‌گذارند.

فدریکو ویتیچی، سردبیر MacStories ، گفت که Moltbot را روی یک مک مینی M4 نصب کرده و آن را به ابزاری برای ایجاد خلاصه‌های صوتی روزانه بر اساس داده‌های برنامه‌های Calendar، Notion و Todoist تبدیل کرده است. در نمونه‌ای دیگر، کاربری به اشتراک گذاشت که Moltbot می‌تواند به طور خودکار حالت‌های چهره متحرک ایجاد کند و بدون دخالت دست، جلوه "خواب" اضافه کند.

از نظر عملیاتی، Moltbot درخواست‌های کاربر را به ارائه‌دهنده هوش مصنوعی منتخب آنها، از جمله OpenAI، Anthropic یا Google، ارسال می‌کند. مانند بسیاری از دستیارهای دیگر، می‌تواند فرم‌ها را مستقیماً در مرورگر پر کند، ایمیل ارسال کند و تقویم‌ها را مدیریت کند. با این حال، طبق بازخورد برخی از کاربران، Moltbot این وظایف را کارآمدتر و انعطاف‌پذیرتر انجام می‌دهد.

با این حال، این امر همچنین مستلزم اعطای دسترسی بسیار عمیق به سیستم رایانه‌ای، از جمله خواندن، نوشتن فایل‌ها و اجرای دستورات توسط کاربران است. ترکیب امتیازات مدیر دستگاه با اعتبارنامه‌های ورود به سیستم برنامه، در صورت عدم کنترل دقیق، می‌تواند خطرات امنیتی جدی ایجاد کند.

ریچل توباک، مدیرعامل SocialProof Security، هشدار می‌دهد که اگر یک عامل هوش مصنوعی مانند Moltbot به امتیازات مدیریتی در رایانه‌ای دست یابد، مهاجمان می‌توانند از طریق یک پیام واحد، کنترل سیستم را به دست گیرند. به گفته او، عامل‌های هوش مصنوعی خودکار می‌توانند از طریق حملات تزریق سریع مورد سوءاستفاده قرار گیرند، آسیب‌پذیری‌ای که شناسایی شده است اما راه‌حل قطعی برای آن وجود ندارد. حملات تزریق سریع زمانی رخ می‌دهد که یک مهاجم، هوش مصنوعی را با دستورالعمل‌های مخرب، که مستقیماً یا پنهان در فایل‌ها، ایمیل‌ها یا وب‌سایت‌هایی که هوش مصنوعی پردازش می‌کند، ارسال می‌شوند، دستکاری می‌کند.

Moltbot ممکن است یک خطر امنیتی ایجاد کند. عکس: Moltbot .

این نگرانی‌ها زمانی بیشتر تقویت شد که جیمیسون اورایلی، متخصص امنیت و بنیانگذار شرکت امنیت سایبری Dvuln، متوجه شد که برخی از پیام‌های خصوصی، اطلاعات ورود به حساب کاربری و کلیدهای API مربوط به Moltbot به صورت آنلاین فاش شده است.

بر این اساس، این داده‌ها می‌توانند توسط هکرها برای سرقت اطلاعات یا انجام حملات دیگر مورد سوءاستفاده قرار گیرند. به گزارش The Register ، او گفت که این مشکل را به تیم توسعه Moltbot گزارش داده و وصله‌ای برای آن منتشر شده است.

منبع: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html