ישראל: אזהרה: עוזרי בינה מלאכותית עלולים להפוך לסוכנים זדוניים שתוקפים משתמשים

חברת אבטחת הסייבר הישראלית Zenity חשפה את פגיעות ה"אפס קליק" הראשונה אי פעם שהתגלתה בשירות ChatGPT של OpenAI. סוג זה של מתקפה אינו דורש ממשתמשים לבצע פעולה כלשהי כמו לחיצה על קישור, פתיחת קובץ או כל אינטראקציה מכוונת, אך עדיין יכול לקבל גישה לחשבונות ולדלוף מידע רגיש.

לפי כתב VNA בתל אביב, מר מיכאיל ברגורי, מייסד שותף ומנהל טכנולוגיות ראשי של Zenity, הסביר ישירות כיצד האקר זקוק רק לכתובת הדוא"ל של המשתמש כדי לשלוט באופן מלא בשיחות - כולל תוכן עבר ועתידי, לשנות את מטרת השיחה, ואפילו לשלוט ב-ChatGPT כדי לפעול בהתאם לרצון ההאקר.

במצגת שלהם, החוקרים הראו כי צ'אטבוט פרוץ יכול להפוך ל"גורם זדוני" שיכול לפעול בחשאי נגד משתמשים. האקרים יכולים לגרום לצ'אטבוט להציע למשתמשים להוריד תוכנה נגועה בווירוס, לתת עצות עסקיות מטעות או לגשת לקבצים המאוחסנים ב-Google Drive אם חשבון המשתמש מחובר.

כל התהליך התרחש מבלי שהמשתמש ידע. הפגיעות תוקנה במלואה רק לאחר ש-Zenity הודיעה ל-OpenAI.

בנוסף ל-ChatGPT, Zenity הדגימה גם התקפות דומות נגד פלטפורמות פופולריות אחרות של עוזרי בינה מלאכותית. ב-Copilot Studio של מיקרוסופט, חוקרים גילו כיצד לדלוף מסדי נתונים שלמים של CRM.

עבור Salesforce Einstein, האקרים יכולים ליצור בקשות שירות מזויפות כדי להפנות את כל התקשורת של הלקוחות לכתובות דוא"ל שבשליטתם.

גוגל ג'מיני ו-Microsoft 365 Copilot הפכו גם הם ל"שחקנים עוינים", שביצעו התקפות פישינג והדליפו מידע רגיש באמצעות מיילים ואירועי לוח שנה.

בדוגמה נוספת, כלי פיתוח התוכנה Cursor, כאשר משולב עם Jira MCP, נוצל גם הוא לגניבת אישורי מפתח באמצעות "כרטיסים" מזויפים.

זניטי מסרה כי חברות מסוימות, כמו OpenAI ומיקרוסופט, פרסמו במהירות תיקונים לאחר שקיבלו התרעות. עם זאת, אחרות סירבו להתייחס לבעיה, בטענה שההתנהגות היא "תכונת עיצוב" ולא פגיעות אבטחה.

האתגר הגדול כעת, לדברי מיכאיל ברגורי, הוא שעוזרי בינה מלאכותית לא רק מבצעים משימות פשוטות, אלא הופכים ל"ישויות דיגיטליות" המייצגות משתמשים - מסוגלים לפתוח תיקיות, לשלוח קבצים ולגשת לאימיילים. הוא הזהיר שזה כמו "גן עדן" להאקרים, עם כל כך הרבה נקודות ניצול.

בן קליגר, מייסד שותף ומנכ"ל Zenity, הדגיש כי מחקר החברה מראה ששיטות האבטחה הנוכחיות אינן מתאימות עוד לאופן שבו עוזרי בינה מלאכותית פועלים. הוא קרא לארגונים לשנות את גישתם ולהשקיע בפתרונות ייעודיים כדי שיוכלו לשלוט ולנטר את פעילותם של "סוכנים" אלה.

זניטי נוסדה בשנת 2021. לחברה כיום כ-110 עובדים ברחבי העולם, 70 מהם עובדים במשרד בתל אביב. בין לקוחותיה של זניטי נמנות חברות רבות מרשימת Fortune 100 ואף Fortune 5.

(TTXVN/וייטנאם+)

מקור: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp