פגיעות אבטחה של מיקרוסופט קופיילוט: אזהרה חדשה על סיכון לדליפת נתונים מבינה מלאכותית

Lỗ hổng bảo mật - Ảnh 1. — EchoLeak והסיכונים הפוטנציאליים של בינה מלאכותית

ככל שבינה מלאכותית (AI) הופכת לחלק מכל עבודה, החל מסיוע בכתיבת דוחות, מענה למיילים ועד ניתוח נתונים, נראה כי המשתמשים חיים בעידן של נוחות חסרת תקדים. אבל גם הצד האפל של הנוחות מתחיל לצוץ, במיוחד בכל הנוגע לאבטחה.

פגיעות אבטחה שנוצרה לאחרונה, המכונה EchoLeak, הותירה את משתמשי שירות Microsoft Copilot בסיכון לדליפת נתונים רגישים מבלי שינקטו פעולה כלשהי.

כאשר בינה מלאכותית הופכת לפגיעות אבטחה

על פי מחקר של Tuoi Tre Online , EchoLeak היא פגיעות אבטחה שתועדה זה עתה עם הקוד CVE-2025-32711, אותה דירגו מומחים כמסוכנת בדירוג 9.3/10 על פי סולם NIST.

מה שמדאיג מומחי אבטחה הוא אופיו ה"אפס קליקים" : תוקפים יכולים לנצל נתונים מ-Copilot מבלי שהמשתמש יצטרך ללחוץ, לפתוח קובץ או אפילו לדעת שמשהו קורה.

לא מדובר בבאג פשוט. צוות המחקר ב-Aim Labs, שגילה את הפגיעות, מאמין ש-EchoLeak משקף פגם עיצובי נפוץ במערכות RAG (יצירת אחזור רבודה) ובינה מלאכותית מבוססת סוכנים. מכיוון ש-Copilot הוא חלק מחבילת היישומים של Microsoft 365, המכילה את האימיילים, המסמכים, הגיליונות האלקטרוניים ולוחות הזמנים של פגישות של מיליוני משתמשים, הסיכון לדליפת נתונים הוא חמור מאוד.

הבעיה טמונה לא רק בקוד הספציפי, אלא באופן שבו מודלים של שפה גדולה (LLMs) פועלים. בינה מלאכותית זקוקה להרבה הקשר כדי להגיב במדויק, ולכן ניתנת לה גישה לכמויות גדולות של נתוני רקע. ללא בקרות ברורות על הקלט והפלט, בינה מלאכותית יכולה להיות "מונעת" בדרכים שהמשתמשים אינם מודעים להן. זה יוצר סוג חדש של "דלת אחורית" לא בגלל פגם בקוד, אלא בגלל שבינה מלאכותית מתנהגת מחוץ להבנה האנושית.

מיקרוסופט הוציאה במהירות תיקון, ועד כה לא דווח על נזק אמיתי. אבל הלקח מ-EchoLeak ברור: כאשר בינה מלאכותית משולבת עמוק במערכות פעילות, אפילו שגיאות קטנות באופן שבו היא מבינה את ההקשר עלולות להיות להן השלכות אבטחה משמעותיות.

ככל שבינה מלאכותית נוחה יותר, כך הנתונים האישיים שבירים יותר

תקרית EchoLeak מעלה שאלה מדאיגה: האם משתמשים נותנים כל כך הרבה אמון בבינה מלאכותית שהם לא מבינים שניתן לעקוב אחריהם או לחשוף את המידע האישי שלהם באמצעות הודעת טקסט בלבד? פגיעות שהתגלתה לאחרונה ומאפשרת להאקרים לחלץ נתונים בשקט מבלי שמשתמשים יצטרכו ללחוץ על כפתורים כלשהם היא דבר שנראה בעבר רק בסרטי מדע בדיוני, אך כעת היא מציאות.

בעוד שיישומי בינה מלאכותית הופכים פופולריים יותר ויותר, החל מעוזרים וירטואליים כמו Copilot, צ'אטבוטים בבנקאות, בחינוך ועד פלטפורמות בינה מלאכותית שכותבות תוכן ומעבדות מיילים, רוב האנשים אינם מקבלים אזהרה לגבי אופן עיבוד ואחסון הנתונים שלהם.

"צ'אט" עם מערכת בינה מלאכותית כבר אינו רק שאילת כמה שאלות לנוחיותכם, אלא יכול גם לחשוף, בלי כוונה, את מיקומכם, הרגליכם, רגשותיכם או אפילו את פרטי חשבונכם.

בווייטנאם, אנשים רבים מכירים את השימוש בבינה מלאכותית בטלפונים ובמחשבים ללא ידע בסיסי באבטחה דיגיטלית . אנשים רבים חולקים מידע פרטי עם בינה מלאכותית משום שהם מאמינים ש"זו רק מכונה". אך במציאות, מאחוריה עומדת מערכת שיכולה להקליט, ללמוד ולהעביר נתונים למקומות אחרים, במיוחד כאשר פלטפורמת הבינה המלאכותית מגיעה מצד שלישי ולא נבדקה בבירור לאבטחה.

כדי להגביל סיכונים, משתמשים לא בהכרח צריכים לוותר על טכנולוגיה, אלא צריכים להיות מודעים יותר: עליהם לבדוק היטב האם לאפליקציית הבינה המלאכותית שהם משתמשים בה יש מקור אמין, האם הנתונים מוצפנים, ובעיקר לא לשתף מידע רגיש כגון מספרי זהות, חשבונות בנק, מידע בריאותי... עם אף מערכת בינה מלאכותית מבלי לקבל אזהרה ברורה.

בדיוק כמו כשהאינטרנט נולד לראשונה, גם בינה מלאכותית זקוקה לזמן כדי להשתכלל, ובמהלך תקופה זו, המשתמשים צריכים להיות הראשונים להגן על עצמם באופן יזום.

האם אי פעם אתם משתפים יותר מדי עם בינה מלאכותית?

כאשר מקלידים את הפקודה "כתוב מחדש את הדוח הזה בשבילי אבל בצורה ידידותית יותר" או "סכם את הפגישה של אתמול", אנשים רבים לא חושבים שכל המידע שהם מזינים, כולל פרטים פנימיים, רגשות אישיים או הרגלי עבודה, יכול להיות מוקלט על ידי בינה מלאכותית. בהדרגה התרגלנו לשוחח עם כלים חכמים, ושוכחים את הגבול בין נוחות לפרטיות.

חזרה לנושא

טואן השישי

מקור: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm