מיקרוסופט פרסמה אזהרה מכיוון שהבינה המלאכותית ב-Windows 11 חזקה מדי.

מיקרוסופט נמצאת בתהליך פיתוח של Windows 11, עם תוכניות להפוך אותה ל"מערכת הפעלה סוכנית" בעתיד. עם זאת, החברה פרסמה אזהרה לגבי סיכונים פוטנציאליים הקשורים לתכונה חדשה זו.

לפני פריסת תכונות ניסיוניות למשתמשי Windows Insider, מיקרוסופט ממליצה למשתמשי Windows 11 להפעיל תכונות אלו רק אם הם מבינים במלואן את השלכות האבטחה.

על פי BGR , מיקרוסופט אישרה כי רכיבי סוכן בינה מלאכותית (AI) יושבתו כברירת מחדל מכיוון שתכונה זו עלולה להוות סיכון להתקפות הזרקת פקודות צולבות (XPIA).

מתקפה זו מתרחשת כאשר יישומי בינה מלאכותית מקבלים גישה לקבצי משתמשים, מה שעלול להוביל לדליפות נתונים או להתקנת תוכנות זדוניות. חשבונות סוכנים, המוענקים כאשר תכונות סוכן בינה מלאכותית מופעלות, יקבלו גישה מוגבלת לתיקיות פרופילי משתמשים, אך עדיין עלולים לגרום לתוצאות לא מכוונות.

רכיבי סוכן הבינה המלאכותית הניסיוניים, המכונים Agent Workspace, זמינים כעת בתצוגה מקדימה למפתחים ויופצו בקרוב למשתמשים נוספים.

למרות שאף אפליקציה לא תומכת כרגע בתכונה זו, בקרוב תהיה ל-Copilot גישה ל-Agent Workspace. עם זאת, הדבר מעלה גם חששות בנוגע לפרטיות, מכיוון ש-Copilot יוכל לראות את כל המסך של המשתמש.

מיקרוסופט מחשיבה רכיבים מסוימים של Agent Workspace כמסוכנים מאוד, ולכן הם מושבתים כברירת מחדל.

מיקרוסופט מדגישה כי אבטחה אינה תכונה זמנית אלא התחייבות מתמשכת שתותאם עם הזמן. Agent Workspace נועד לאפשר ליישומי בינה מלאכותית לגשת לקבצים ברקע, בעוד שמשתמשים ממשיכים להשתמש במכשירים שלהם.

עם זאת, משתמשים עדיין יכולים לנהל הרשאות גישה ולעצור את הסוכן בעת הצורך. נכון לעכשיו, אנשים רבים עדיין מביעים חששות וחילוקי דעות לגבי תכונה חדשה זו בפורומים מקוונים.

אף על פי כן, מיקרוסופט מאמינה שככל שיותר משתמשים יקבלו גישה לתכונות הניסיוניות של סוכן הבינה המלאכותית, יהיה להם מידע רב יותר על אופן פעולתן וכמה הן מאובטחות.