בפורום Security Summit 2026 שנערך ב-22 במאי, מר מאי שואן קואנג - מנהל מרכז שירותי אבטחת מידע, Viettel Cyber Security, הצהיר כי ההבדל המסוכן ביותר בין סוכני בינה מלאכותית לתואר שני במשפטים מסורתיים טמון ביכולתם לתקשר ישירות עם המערכת.
בעוד שמערכות LLM קונבנציונליות מקבלות רק פקודות ומחזירות טקסט, לסוכני בינה מלאכותית יש את היכולת לבצע פקודות מעטפת (לקיים אינטראקציה עם מערכת ההפעלה דרך שורת הפקודה), לתפעל מערכות קבצים לקריאה וכתיבה, לשלוח אוטומטית מיילים, לקרוא ל-API ולשלוט בדפדפנים. שדרוג זה פותח, שלא במתכוון, מגוון רחב יותר של אפשרויות תקיפה, הרבה מעבר להיקף של קמפיינים טיפוסיים של דיסאינפורמציה.
סוכני בינה מלאכותית הופכים למטרה חדשה עבור פושעי סייבר.
לדברי מומחי אבטחת סייבר, היכולת הזו "לפעול" היא שהופכת סוכני בינה מלאכותית למטרה חדשה עבור פושעי סייבר.
אחד הסיכונים הגדולים ביותר הוא דליפת נתונים ארגוניים. כדי לפעול ביעילות, סוכני בינה מלאכותית צריכים לעתים קרובות לעבד כמויות גדולות של מידע פנימי כגון קוד מקור, מסמכים ודוא"ל. אם נתונים אלה נשלחים לפלטפורמות בינה מלאכותית בענן של צד שלישי, הסיכון לחשיפת מידע סודי עולה.
תועדו מקרים של דליפת קוד מקור חדש של עובדי סמסונג דרך ChatGPT, או של דליפת נתונים בטעות על ידי ביצוע הוראות של בינה מלאכותית פנימית.
בנוסף לסיכון של דליפות נתונים, מומחים מזהירים גם מפני "הזרקה מיידית עקיפה". האקרים יכולים להטמיע הוראות זדוניות במיילים, אתרי אינטרנט או מסמכים כדי להערים על סוכני בינה מלאכותית לבצע פעולות לא מכוונות, כגון גישה לנתונים פנימיים או שליחת מידע להאקר.
היה מקרה שבו תוקף הסתיר קוד מורס בהודעה כדי לעקוף את המערכת, מה שאפשר לסוכן המטבעות הקריפטוגרפיים Grok-Bankrbot לבצע העברת כספים לא מורשית, וכתוצאה מכך הפסד של 150,000 דולר.
סיכון נוסף נובע מהאקוסיסטם של הרחבות עבור סוכני בינה מלאכותית. עובדים רבים בעסקים מתקינים הרחבות מהקהילה כדי להרחיב את הפונקציונליות של הבינה המלאכותית, אך האקרים יכולים לנצל ערוץ זה כדי להפיץ תוכנות זדוניות. לאחר שניתנה להם גישה למערכת, תוספים מזויפים אלה יכולים לגנוב נתונים, טוקנים או ליצור דלתות אחוריות במכשיר.
לדברי מר קואנג, מגמת "בינה מלאכותית בצל" מתפתחת גם כאשר עובדים מתקינים באופן עצמאי סוכני בינה מלאכותית במחשבי העבודה שלהם מבלי לעבור דרך מחלקת ה-IT. זה מקשה על עסקים לשלוט בגישה ומגביר את הסיכון לפריצות אבטחה במערכות.
יתר על כן, בינה מלאכותית יכולה לפרש באופן שגוי את כוונות המשתמש, מה שמוביל לביצוע פקודות שעלולות לגרום נזק משמעותי לעסקים. לדוגמה, סוכן בינה מלאכותית עלול לבצע פעולה שגויה או למחוק בטעות נתונים חשובים אם ניתנות לו הרשאות יתר.
כדי למתן סיכונים, מומלץ לארגונים לבנות מודל אבטחה רב שכבתי במקום להסתמך אך ורק על תוכנות אנטי-וירוס מסורתיות ולפתח מפת דרכים מתאימה ליישום.
עסקים צריכים לבנות מודל אבטחה רב-שכבתי.
הצעד הראשון שעסק צריך לעשות הוא זיהוי איומים. עסקים יכולים להשתמש בנקודות קצה ובתעבורת פרוקסי אינטרנט (שרתי ביניים המחברים מכשירים לאינטרנט) כדי לאגד ולזהות איומים.
בשלב הבא, עלינו להקים שער בינה מלאכותית, שיהפוך אותו לנקודת בקרה יחידה לכל גישת הבינה המלאכותית. שער זה ישלוט בהעברת הנתונים לענן הציבורי.
לאחר מכן, עסקים צריכים ליישם שכבה נוספת של בקרה ייעודית (Guardrail) בשער הבינה המלאכותית שלהם ובאפליקציות בינה מלאכותית אחרות כדי לזהות פקודות זדוניות, למנוע דליפות נתונים ולזהות גישה או ניצול בלתי מורשה של המערכת.
השלב הבא הוא ליצור תגבורות עבור סוכן הבינה המלאכותית. יש להגדיר את מערכת הניטור בנקודת הקצה כך שתעקוב אחר "התנהגות אוטונומית" חריגה. יש להפעיל את סוכן הבינה המלאכותית בסביבה מבודדת עם גישה מינימלית כדי להגביל את הסיכון להתפשטות במקרה של אירוע. לבסוף, ניטור מערכת קבוע הוא חיוני.
"ממשל אבטחת בינה מלאכותית אינו פריסה חד פעמית, אלא תהליך ניטור מתמשך", הצהיר מר קואנג.
ניהול אבטחת בינה מלאכותית יהפוך לדרישה חובה בתקופה של פיתוח מהיר של סוכני בינה מלאכותית. אם עסקים אינם מוכנים לבסס מודלים של אבטחה מסוג Zero Trust וניטור קפדני, העצמת סוכני בינה מלאכותית לפעול דומה למסירת מפתחות המערכת לעובד אשר, למרות היותו מיומן מאוד, פגיע מאוד למניפולציה.
מקור: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
תגובה (0)