אזהרה מפני סיכוני תקיפה חדשים, ניצול פרוטוקולי חיבור מבוססי בינה מלאכותית בקוד פתוח

פרוטוקול Model Context (MCP) – פרוטוקול קישוריות בינה מלאכותית בקוד פתוח, שהוכרז על ידי Anthropic בשנת 2024 – מאפשר למודלים של שפות גדולות (LLMs) להתחבר ישירות לכלים ושירותים חיצוניים כגון חיפוש, ניהול קוד מקור, גישה ל-API, נתוני CRM, פיננסים או ענן. עם זאת, כמו כל כלי קוד פתוח, ניתן לנצל את MCP למטרות זדוניות.

במעבדה, צוות התגובה לחירום Gert (GERT) של קספרסקי סימה תרחיש שבו שרת MCP זדוני הותקן במחשב של מפתח, ואסף סיסמאות, כרטיסי אשראי, ארנקי קריפטו, אסימוני API, תצורות ענן ונתונים אחרים. המשתמשים הוטעו בקלות מכיוון שלא שמו לב לסימנים חריגים. למרות שקספרסקי לא תיעד אירועים אמיתיים, סיכון זה בהחלט אפשרי, לא רק לגניבת נתונים אלא גם להתקנת דלתות אחוריות, הפצת תוכנות זדוניות או סחיטת כספים.

במחקר, קספרסקי השתמשה ב-Cursor כלקוח בינה מלאכותית היפותטי שמתחבר ל-MCP שהופך לכלי תקיפה, אך ניתן ליישם את השיטה על כל LLM. Cursor ו-Anthropic קיבלו הודעה.

מוחמד גובאשי, מומחה לתגובה לאירועים בצוות התגובה הגלובלי לחירום (GERT) של קספרסקי, אמר: "מתקפות שרשרת אספקה נותרות אחת האיומים החמורים ביותר כיום. בהקשר של שילוב נרחב של בינה מלאכותית בזרימות עבודה, עסקים נוטים להיות שאננים בקלות כאשר הם משתמשים ב-MCPs מותאמים אישית שלא אומתו והורדו מפורומים. זה מגביר את הסיכון לדליפת נתונים ומראה את הצורך לבנות מערכת הגנה איתנה."

בספר הלבן החדש, קספרסקי מספקת ניתוח מפורט של טכניקות התקיפה ואמצעי הנגד. הדוח המלא זמין באתר Securelist. GERT מציעה גם מספר המלצות:

ראשית, חשוב לבדוק היטב כל שרת MCP לפני השימוש, לוודא שהוא נסרק ואושר, ולתחזק רשימה לבנה של שרתים מאומתים.

שנית, יש להגביל את הגישה על ידי הפעלת MCP במכולה או במכונה וירטואלית, תוך מתן הרשאות רק לספריות הכרחיות, והפרדת סביבות פיתוח וייצור כדי למנוע התפשטות סיכונים.

שלישית, יש לנטר התנהגות חריגה על ידי רישום כל ההנחיות והתגובות, זיהוי הוראות נסתרות או פעולות מוזרות כגון פקודות SQL בלתי צפויות או נתונים שנשלחו בצורה לא נכונה.

בנוסף, עסקים צריכים לפרוס שירותי אבטחה של קספרסקי כגון זיהוי ותגובה מנוהלים (MDR) או תגובה לאירועים, כדי לספק הגנה מתמשכת, לזהות ולחקור אירועים ולתמוך אפילו ביחידות חסרות כוח אדם מיוחד.

לפי קספרסקי, בעידן הבינה המלאכותית, שמירה על ערנות, שליטה קפדנית בכלים חדשים ושילוב פתרונות אבטחה מקיפים יהיו המפתח לעסקים להגנה מפני איומי שרשרת האספקה המתוחכמים יותר ויותר.

מקור: https://nld.com.vn/canh-bao-nguy-co-tan-cong-moi-loi-dung-giao-thuc-ket-noi-ai-ma-nguon-mo-196250924152722129.htm