פגיעות חמורה ב-ChatGPT ובסדרה של עוזרי בינה מלאכותית: משתמשים מוטעים, מידע דולף...

ChatGPT - Ảnh 1. — הפגיעות של 'אפס קליקים' אף מאפשרת להאקרים לשלוט ב-ChatGPT לפעול כרצונם - צילום איור: AFP

חברת אבטחת הסייבר הישראלית Zenity חשפה זה עתה את הפגיעות הראשונה של "Zero Click" שהתגלתה בשירות ChatGPT של OpenAI.

סוג זה של התקפה אינו דורש ממשתמשים לבצע פעולה כלשהי כגון לחיצה על קישור, פתיחת קובץ או כל אינטראקציה מכוונת, אך עדיין יכול לקבל גישה לחשבונות ולדלוף נתונים רגישים.

מיכאיל ברגורי, מייסד שותף ומנהל הטכנולוגיה הראשי של Zenity, הדגים ממקור ראשון כיצד האקר עם כתובת דוא"ל של משתמש בלבד יכול להשתלט לחלוטין על שיחות - כולל תוכן מהעבר והעתיד, לשנות את מטרת השיחה, ואף לתמרן את ChatGPT כדי לפעול לטובת ההאקר.

במצגת שלהם, הראו החוקרים כי חשבון ChatGPT פרוץ יכול להפוך ל"שחקן זדוני" הפועל בסתר נגד משתמשים. האקרים יכולים לגרום ל-ChatGPT להציע למשתמשים להוריד תוכנה נגועה בווירוס, לתת עצות עסקיות מטעות או לגשת לקבצים המאוחסנים ב-Google Drive אם חשבון המשתמש מחובר. כל זה קורה ללא ידיעת המשתמש.

הפגיעות תוקנה במלואה רק לאחר ש-Zenity הודיעה ל-OpenAI.

בנוסף ל-ChatGPT, Zenity הדגימה גם התקפות דומות נגד פלטפורמות עזר פופולריות אחרות של בינה מלאכותית. ב-Copilot Studio של מיקרוסופט, חוקרים גילו דרך לדלוף מסדי נתונים שלמים של CRM.

עבור Salesforce Einstein, האקרים יכולים ליצור בקשות שירות מזויפות כדי להפנות את כל התקשורת של הלקוחות לכתובות דוא"ל הנמצאות בשליטתם.

גוגל ג'מיני ומיקרוסופט 365 קופיילוט הפכו גם הם ל"שחקנים עוינים", שביצעו התקפות פישינג והדליפו מידע רגיש באמצעות מיילים ואירועי לוח שנה.

בדוגמה נוספת, כלי פיתוח התוכנה Cursor, כאשר הוא משולב עם Jira MCP, נוצל גם הוא לגניבת אישורי מפתח באמצעות "כרטיסים" מזויפים.

זניטי מסרה כי חברות מסוימות, כמו OpenAI ומיקרוסופט, פרסמו במהירות תיקונים לאחר שקיבלו התרעות. עם זאת, אחרות סירבו לטפל בבעיה, בטענה שההתנהגות היא "תכונת עיצוב" ולא פגיעות אבטחה.

האתגר הגדול כעת, לדברי מיכאיל ברגורי, הוא שעוזרי בינה מלאכותית לא רק מבצעים משימות פשוטות, אלא הופכים ל"ישויות דיגיטליות" המייצגות משתמשים - מסוגלים לפתוח תיקיות, לשלוח קבצים ולגשת לאימיילים. הוא הזהיר שזה כמו "גן עדן" להאקרים, עם כל כך הרבה נקודות ניצול.

בן קליגר, מייסד שותף ומנכ"ל Zenity, הדגיש כי מחקר החברה מראה ששיטות האבטחה הנוכחיות אינן מתאימות עוד לאופן שבו עוזרי בינה מלאכותית פועלים. הוא קרא לארגונים לשנות את גישתם ולהשקיע בפתרונות ייעודיים כדי שיוכלו לשלוט ולנטר את פעילותם של "סוכנים" אלה.

זניטי נוסדה בשנת 2021. כיום היא מעסיקה כ-110 עובדים ברחבי העולם, 70 מהם עובדים במשרדיה בתל אביב. בין לקוחותיה של זניטי נמנות חברות רבות מרשימת Fortune 100 ואף Fortune 5.

חזרה לנושא

VNA

מקור: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm