הפגיעות של 'אפס קליקים' אף מאפשרת להאקרים לשלוט ב-ChatGPT לפעול כרצונם - איור: AFP
חברת אבטחת הסייבר הישראלית Zenity חשפה זה עתה את הפרצה הראשונה של "Zero Click" שהתגלתה בשירות ChatGPT של OpenAI.
סוג זה של התקפה אינו דורש מהמשתמשים לבצע פעולות כלשהן כגון לחיצה על קישורים, פתיחת קבצים או ביצוע אינטראקציות מכוונות, אך עדיין ניתן לקבל גישה לחשבונות ולדלוף נתונים רגישים.
מיכאיל ברגורי, מייסד שותף ומנהל הטכנולוגיה הראשי של Zenity, הסביר ישירות כיצד האקר, פשוט על ידי זיהוי כתובת הדוא"ל של משתמש, יכול לשלוט לחלוטין בשיחות - כולל תוכן מהעבר והעתיד, לשנות את מטרת השיחות, ואפילו לתמרן את ChatGPT כדי שיפעל בהתאם לרצונותיו של ההאקר.
במצגת שלהם, הראו החוקרים כי ChatGPT פרוץ יכול להפוך ל"סוכן זדוני" הפועל בחשאי נגד משתמשים. האקרים עלולים לגרום ל-ChatGPT להציע למשתמשים להוריד תוכנה נגועה בווירוס, להציע עצות עסקיות מטעות או לגשת לקבצים המאוחסנים ב-Google Drive אם חשבון המשתמש מחובר. כל זה קורה ללא ידיעת המשתמש.
הפגיעות תוקנה במלואה רק לאחר ש-Zenity הודיעה ל-OpenAI.
בנוסף ל-ChatGPT, Zenity גם סימלה מספר התקפות דומות שכוונו נגד פלטפורמות פופולריות אחרות של עוזרי בינה מלאכותית. ב-Copilot Studio של מיקרוסופט, חוקרים גילו כיצד מסדי נתונים שלמים של CRM עלולים לדלוף.
במקרה של Salesforce Einstein, האקרים יכלו ליצור בקשות שירות מזויפות כדי להפנות את כל התקשורת עם הלקוחות לכתובות דוא"ל הנמצאות בשליטתם.
גוגל ג'מיני ו-Microsoft 365 Copilot הפכו גם הם ל"סוכנים עוינים", שביצעו הונאות פישינג והדליפו מידע רגיש באמצעות מיילים ואירועי לוח שנה.
בדוגמה נוספת, כלי פיתוח התוכנה Cursor, כאשר משולב עם Jira MCP, נוצל גם הוא לגניבת פרטי כניסה של מתכנתים באמצעות "כרטיסים" מזויפים.
זניטי מסרה כי חברות מסוימות, כמו OpenAI ומיקרוסופט, פרסמו במהירות תיקונים לאחר שקיבלו התרעות. עם זאת, חלק מהחברות סירבו לטפל בבעיה, בטענה שההתנהגות שהתגלתה הייתה "תכונת עיצוב" ולא פגיעות אבטחה.
לדברי מיכאיל ברגורי, האתגר העיקרי כיום הוא שעוזרי בינה מלאכותית לא רק מבצעים משימות פשוטות, אלא הופכים ל"ישויות דיגיטליות" המייצגות משתמשים - המסוגלות לפתוח תיקיות, לשלוח קבצים ולגשת לאימיילים. הוא מזהיר שזה כמו "מקלט" להאקרים, שכן יש יותר מדי פגיעויות.
בן קליגר, מייסד שותף ומנכ"ל Zenity, הדגיש כי מחקר החברה מראה ששיטות האבטחה הנוכחיות אינן מספיקות עוד לאופן שבו עוזרי בינה מלאכותית פועלים. הוא קרא לארגונים לשנות את גישתם, ולהשקיע בפתרונות ייעודיים לשליטה ומעקב אחר פעילותם של "סוכנים" אלה.
זניטי נוסדה בשנת 2021. נכון לעכשיו, לחברה כ-110 עובדים ברחבי העולם, מתוכם 70 עובדים במשרדיה בתל אביב. בין לקוחותיה של זניטי נמנות חברות רבות מרשימת Fortune 100, ואף חברות מרשימת Fortune 5.
מקור: https://tuoitre.vn/lo-hong-nghiem-trong-บน-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm
תגובה (0)