פגיעות חמורה ב-ChatGPT ובסדרה של עוזרי בינה מלאכותית: משתמשים מוטעים, מידע דולף...

ChatGPT - Ảnh 1. — הפגיעות של 'אפס קליקים' אף מאפשרת להאקרים לשלוט ב-ChatGPT לפעול כרצונם - צילום איור: AFP

חברת אבטחת הסייבר הישראלית Zenity חשפה את הפגיעות הראשונה מסוג "Zero Click" שהתגלתה בשירות ChatGPT של OpenAI.

סוג זה של התקפה אינו דורש ממשתמשים לבצע פעולה כלשהי כגון לחיצה על קישור, פתיחת קובץ או כל אינטראקציה מכוונת, אך עדיין יכול לקבל גישה לחשבונות ולדלוף נתונים רגישים.

מיכאיל ברגורי, מייסד שותף ומנהל הטכנולוגיה הראשי של Zenity, הדגים ממקור ראשון כיצד האקר עם כתובת דוא"ל של משתמש בלבד יכול להשתלט לחלוטין על שיחות - כולל תוכן מהעבר והעתיד, לשנות את מטרת השיחה, ואף לתמרן את ChatGPT כדי שיפעל בהתאם לרצון ההאקר.

במצגת שלהם, החוקרים הראו כי חשבון ChatGPT פרוץ יכול להפוך ל"שחקן זדוני" הפועל בסתר נגד משתמשים. האקרים יכולים לגרום ל-ChatGPT להציע למשתמשים להוריד תוכנה עמוסת וירוסים, לתת עצות עסקיות מטעות או לגשת לקבצים המאוחסנים ב-Google Drive אם חשבון המשתמש מחובר. כל זה קורה ללא ידיעת המשתמש.

הפגיעות תוקנה במלואה רק לאחר ש-Zenity הודיעה ל-OpenAI.

בנוסף ל-ChatGPT, Zenity הדגימה גם התקפות דומות נגד פלטפורמות פופולריות אחרות של עוזרי בינה מלאכותית. ב-Copilot Studio של מיקרוסופט, חוקרים גילו כיצד לדלוף מסדי נתונים שלמים של CRM.

עבור Salesforce Einstein, האקרים יכולים ליצור בקשות שירות מזויפות כדי להפנות את כל התקשורת של הלקוחות לכתובות דוא"ל שבשליטתם.

גוגל ג'מיני ומיקרוסופט 365 קופיילוט הפכו גם הם ל"שחקנים עוינים", שביצעו התקפות פישינג והדליפו מידע רגיש באמצעות מיילים ואירועי לוח שנה.

בדוגמה נוספת, כלי פיתוח התוכנה Cursor, כאשר משולב עם Jira MCP, נוצל גם הוא לגניבת אישורי מפתח באמצעות "כרטיסים" מזויפים.

זניטי מסרה כי חברות מסוימות, כמו OpenAI ומיקרוסופט, פרסמו במהירות תיקונים לאחר שקיבלו התרעות. עם זאת, אחרות סירבו להתייחס לבעיה, בטענה שההתנהגות היא "תכונת עיצוב" ולא פגיעות אבטחה.

האתגר הגדול כעת, לדברי מיכאיל ברגורי, הוא שעוזרי בינה מלאכותית לא רק מבצעים משימות פשוטות, אלא הופכים ל"ישויות דיגיטליות" המייצגות משתמשים - המסוגלות לפתוח תיקיות, לשלוח קבצים ולגשת לאימיילים. הוא הזהיר שזה כמו "גן עדן" להאקרים, עם כל כך הרבה נקודות ניצול.

בן קליגר, מייסד שותף ומנכ"ל Zenity, אמר כי מחקר החברה מראה ששיטות האבטחה הנוכחיות אינן מתאימות עוד לאופן שבו עוזרי בינה מלאכותית פועלים. הוא קרא לארגונים לשנות את גישתם ולהשקיע בפתרונות ייעודיים לשליטה ובקרה על פעילותם של "סוכנים" אלה.

זניטי נוסדה בשנת 2021. כיום היא מעסיקה כ-110 עובדים ברחבי העולם, 70 מהם עובדים במשרדיה בתל אביב. בין לקוחותיה של זניטי נמנות חברות רבות מרשימת Fortune 100 ואף Fortune 5.

חזרה לנושא

VNA

מקור: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm