סיכונים מעוזרת הבינה המלאכותית "היודעת-כל" של מולבוט

עוזר בינה מלאכותית בקוד פתוח צובר תשומת לב במהירות בקהילת הטכנולוגיה הודות ליכולתו לטפל באופן אוטומטי במשימות ללא התערבות אנושית.

מולבוט בולט ביכולתו לבצע באופן אוטומטי משימות שהוקצו על ידי המשתמש. צילום: מולבוט .

מולבוט, לשעבר קלאודבוט, הוא סוכן בינה מלאכותית הפועל באופן מקומי על פני מספר מכשירים. משתמשים יכולים להורות למולטבוט לבצע משימות בשמם באמצעות פלטפורמות העברת הודעות פופולריות כמו וואטסאפ, טלגרם, סיגנל, דיסקורד או iMessage. ברשתות החברתיות, אנשים רבים משתפים כיצד הם משתמשים במולטבוט כדי לנהל תזכורות, לתעד נתוני בריאות או אפילו לתקשר עם לקוחות.

פדריקו ויטיצ'י, עורך MacStories , אמר שהוא התקין את Moltbot על Mac Mini M4 והפך אותו לכלי ליצירת סיכומי שמע יומיים המבוססים על נתונים מיישומי Calendar, Notion ו-Todoist. במקרה אחר, משתמש שיתף ש-Moltbot יכול ליצור באופן אוטומטי הבעות פנים מונפשות ולהוסיף אפקט "שינה" ללא התערבות ידנית.

מבחינת תפעול, Moltbot מעביר בקשות משתמשים לספק הבינה המלאכותית שבחרו, כולל OpenAI, Anthropic או Google. כמו עוזרים רבים אחרים, הוא יכול למלא טפסים ישירות בדפדפן, לשלוח מיילים ולנהל יומנים. עם זאת, לפי משוב ממשתמשים מסוימים, Moltbot מבצע משימות אלו בצורה יעילה וגמישה יותר.

עם זאת, הדבר דורש גם ממשתמשים להעניק גישה עמוקה מאוד למערכת המחשב, כולל קריאה, כתיבה של קבצים והפעלת פקודות. שילוב של הרשאות מנהל התקן עם אישורי כניסה לאפליקציה עלול ליצור סיכוני אבטחה חמורים אם לא יבוצע פיקוח הדוק.

רייצ'ל טובק, מנכ"לית SocialProof Security, מזהירה שאם סוכן בינה מלאכותית כמו Moltbot מקבל הרשאות ניהול במחשב, תוקפים עלולים לנסות להשתלט על המערכת באמצעות הודעה אחת. לדבריה, סוכני בינה מלאכותית אוטומטיים ניתנים לניצול באמצעות התקפות הזרקה מהירה (Prompt Injection), פגיעות שזוהתה אך חסרה לה פתרון סופי. התקפות הזרקה מהירה מתרחשות כאשר תוקף מתמרן את הבינה המלאכותית באמצעות הוראות זדוניות, הנשלחות ישירות או מוסתרות בתוך קבצים, מיילים או אתרי אינטרנט שהבינה המלאכותית מעבדת.

מולבוט עלול להוות סיכון ביטחוני. צילום: מולבוט .

חששות אלה התחזקו עוד יותר כאשר ג'יימיסון או'ריילי, מומחה אבטחה ומייסד חברת אבטחת הסייבר Dvuln, גילה כי הודעות פרטיות, פרטי כניסה לחשבון ומפתחות API הקשורים ל-Moltbot דלפו לרשת.

בהתאם לכך, נתונים אלה עלולים להיות מנוצלים על ידי האקרים כדי לגנוב מידע או לבצע התקפות אחרות. הוא אמר שדיווח על הבעיה לצוות הפיתוח של Moltbot ותיקון שוחרר, על פי The Register .

מקור: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html