פגיעות זו מאפשרת לתוקפים להזריק פקודות זדוניות ישירות לזיכרון של הבינה המלאכותית, ולהפוך תכונה שימושית לנשק מתמשך להפעלת קוד שרירותי (תמונה להמחשה: ST).
על פי דיווח של LayerX Security, מתקפה זו ניצלה פגיעות של Cross-Site Request Forgery (CSRF) כדי להחדיר פקודות זדוניות לזיכרון המתמשך של ChatGPT.
תכונת ה"זיכרון", שתוכננה במקור עבור בינה מלאכותית כדי לזכור פרטים שימושיים כמו שמות משתמשים והעדפות לתגובות מותאמות אישית, כעת ניתנת ל"שבירה".
ברגע שהזיכרון נדבק בתוכנה זדונית, פקודות אלו יישארו לצמיתות - אלא אם כן המשתמש ימחק אותן ידנית דרך ההגדרות - וניתן להפעיל אותן במספר מכשירים וסשנים.
"מה שהופך את הפגיעות הזו למסוכנת במיוחד הוא שהיא מכוונת לזיכרון המתמשך של הבינה המלאכותית, ולא רק לסשן הדפדפן", אמרה מישל לוי, מנהלת מחקר אבטחה ב-LayerX Security.
לוי הסביר: "במילים פשוטות, התוקף משתמש בטריק כדי 'להערים' על הבינה המלאכותית, ולאלץ אותה לכתוב פקודה זדונית לזיכרון שלה. החלק המסוכן ביותר הוא שפקודה זו תישאר לצמיתות בבינה המלאכותית - גם אם המשתמש מחליף מחשבים, מתנתק ומתחבר שוב, או אפילו משתמש בדפדפן אחר."
מאוחר יותר, כאשר משתמש מבצע בקשה רגילה לחלוטין, הוא עלול להפעיל בטעות את התוכנה הזדונית. כתוצאה מכך, האקרים יכולים להריץ קוד בחשאי, לגנוב נתונים או להשיג שליטה רבה יותר על המערכת.
תרחיש ההתקפה המתואר הוא די פשוט: ראשית, המשתמש מתחבר ל-ChatGPT Atlas. הוא מוטעה ללחוץ על קישור זדוני, לאחר מכן האתר הזדוני מפעיל בסתר בקשת CSRF, ומכניס בשקט הוראות זדוניות לזיכרון ChatGPT של הקורבן.
לבסוף, כאשר משתמש מבצע שאילתה לגיטימית לחלוטין, למשל לבקש מהבינה המלאכותית לכתוב קוד, ה"זיכרונות" הנגועים יופעלו.
LayerX מציינת כי הבעיה מחמירה עקב היעדר בקרות אנטי-פישינג חזקות של ChatGPT Atlas.
בבדיקות שכללו למעלה מ-100 פגיעויות ואתרי פישינג, אטלס הצליחה לחסום רק 5.8% מהאתרים הזדוניים.
נתון זה צנוע מדי בהשוואה לגוגל כרום (47%) או מיקרוסופט אדג' (53%), מה שהופך את משתמשי אטלס ל"עד 90% פגיעים יותר" להתקפות בהשוואה לדפדפנים מסורתיים.
גילוי זה מגיע בעקבות פגיעות נוספת של הזרקת תוכנות זדוניות מהירה שהודגמה בעבר על ידי NeuralTrust, והראה כי דפדפני בינה מלאכותית הופכים לחזית תקיפה חדשה.
OpenAI השיקה את דפדפן האינטרנט ChatGPT Atlas מוקדם יותר בשבוע שעבר. באופן לא מפתיע, OpenAI שילבה את מנוע הבינה המלאכותית ChatGPT שלה בדפדפן זה, מה שסיפק תמיכה טובה יותר למשתמשים בזמן גלישה באינטרנט.
בכל פעם שמשתמש לוחץ על תוצאת חיפוש ב-ChatGPT Atlas, תופיע תיבת דו-שיח של ChatGPT ממש ליד חלון דף האינטרנט, שתאפשר לו לשאול שאלות הקשורות לתוכן הנצפה, ובכך לחסוך זמן קריאה.
ChatGPT יכול גם לסכם תוכן אתר, לערוך טקסט בעת כתיבת מיילים, או להציע דרכים לכתוב אותו מחדש כך שיתאים טוב יותר להקשר.
מקור: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
תגובה (0)