ישראל: פורסמה אזהרה כי עוזרי בינה מלאכותית עלולים להפוך לכלי זדוניים התוקפים משתמשים.

חברת אבטחת הסייבר הישראלית Zenity חשפה זה עתה את פגיעות ה"אפס קליק" הראשונה שהתגלתה אי פעם בשירות ChatGPT של OpenAI. סוג זה של התקפה אינו דורש ממשתמשים לבצע פעולה כלשהי כמו לחיצה על קישור, פתיחת קובץ או אינטראקציה מכוונת, אך עדיין יכול לקבל גישה לחשבון ולדלוף מידע רגיש.

לפי כתב VNA בתל אביב, מיכאיל ברגורי, מייסד שותף ומנהל טכנולוגיות ראשי של Zenity, הסביר ישירות כיצד האקר, פשוט על ידי רכישת כתובת הדוא"ל של משתמש, יכול לשלוט לחלוטין בשיחות - כולל תוכן מהעבר והעתיד, לשנות את מטרת השיחות, ואף לתמרן את ChatGPT כדי שיפעל בהתאם לרצון ההאקר.

במצגת שלהם, הראו החוקרים כי צ'אטבוט פרוץ יכול להפוך ל"סוכן זדוני" הפועל בחשאי נגד משתמשים. האקרים עלולים לגרום לצ'אטבוט להציע למשתמשים להוריד תוכנה נגועה בווירוס, להציע עצות עסקיות מטעות או לגשת לקבצים המאוחסנים ב-Google Drive אם חשבון המשתמש מחובר.

התהליך כולו התרחש ללא ידיעת המשתמש. הפגיעות תוקנה במלואה רק לאחר ש-Zenity הודיעה ל-OpenAI.

בנוסף ל-ChatGPT, Zenity גם סימלה מספר התקפות דומות שכוונו נגד פלטפורמות פופולריות אחרות של עוזרי בינה מלאכותית. ב-Copilot Studio של מיקרוסופט, חוקרים גילו כיצד מסדי נתונים שלמים של CRM עלולים לדלוף.

במקרה של Salesforce Einstein, האקרים יכלו ליצור בקשות שירות מזויפות כדי להפנות את כל התקשורת עם הלקוחות לכתובות דוא"ל הנמצאות בשליטתם.

גוגל ג'מיני ו-Microsoft 365 Copilot הפכו גם הם ל"סוכנים עוינים", שביצעו תוכניות פישינג והדליפו מידע רגיש באמצעות מיילים ואירועי לוח שנה.

בדוגמה נוספת, כלי פיתוח התוכנה Cursor, כאשר משולב עם Jira MCP, נוצל גם הוא לגניבת פרטי כניסה של מתכנתים באמצעות "כרטיסים" מזויפים.

זניטי מסרה כי חברות מסוימות, כמו OpenAI ומיקרוסופט, פרסמו במהירות תיקונים לאחר שקיבלו התרעות. עם זאת, היו גם חברות שסירבו לטפל בבעיה, בטענה שההתנהגות שהתגלתה הייתה "מאפיין עיצובי" ולא פגיעות אבטחה.

לדברי מיכאיל ברגורי, האתגר העיקרי כיום הוא שעוזרי בינה מלאכותית לא רק מבצעים משימות פשוטות, אלא הופכים ל"ישויות דיגיטליות" המייצגות משתמשים - המסוגלות לפתוח תיקיות, לשלוח קבצים ולגשת לאימיילים. הוא מזהיר שזה כמו "מקלט" להאקרים, עם כל כך הרבה פגיעויות שניתן לנצל.

בן קליגר, מייסד שותף ומנכ"ל Zenity, הדגיש כי מחקר החברה מראה ששיטות האבטחה הנוכחיות אינן מספיקות עוד לאופן שבו עוזרי בינה מלאכותית פועלים. הוא קרא לארגונים לשנות את גישתם, ולהשקיע בפתרונות ייעודיים לשליטה ומעקב אחר פעילותם של "סוכנים" אלה.

זניטי נוסדה בשנת 2021. נכון לעכשיו, לחברה כ-110 עובדים ברחבי העולם, מתוכם 70 עובדים במשרדיה בתל אביב. בין לקוחותיה של זניטי נמנות חברות רבות מרשימת Fortune 100, ואף חברות מרשימת Fortune 5.

(וייטנאם/וייטנאם+)

מקור: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp