מיקרוסופט פרסמה אזהרה מכיוון שבינה מלאכותית ב-Windows 11 "חזקה" מדי

מיקרוסופט נמצאת בתהליך פיתוח של Windows 11, עם תוכניות להעביר אותה למערכת הפעלה "אגרסיבית" בעתיד. עם זאת, החברה פרסמה אזהרה לגבי הסיכונים הפוטנציאליים הכרוכים בתכונה חדשה זו.

לפני פריסת תכונות ניסיוניות למשתמשי Windows Insiders, מיקרוסופט ממליצה למשתמשי Windows 11 להפעיל תכונות אלו רק אם הם מבינים את השלכות האבטחה.

לפי BGR , מיקרוסופט אישרה כי רכיבי סוכן בינה מלאכותית (AI) יושבתו כברירת מחדל מכיוון שתכונה זו עלולה לגרום לסיכוני התקפת הזרקת פקודות צולבות (XPIA).

מתקפה זו מתרחשת כאשר יישומי בינה מלאכותית מקבלים גישה לקבצי משתמש, מה שעלול להוביל לדליפות נתונים או להתקנת תוכנות זדוניות. חשבונות סוכנים, המוענקים כאשר תכונות סוכן בינה מלאכותית מופעלות, בעלי גישה מוגבלת לתיקיית הפרופיל של המשתמש, אך עדיין עלולים לגרום לתוצאות לא מכוונות.

רכיבי סוכן הבינה המלאכותית הניסיוניים, המכונים Agent Workspace, זמינים כעת בתצוגה מקדימה למפתחים ויופצו בקרוב למשתמשים נוספים.

למרות שעדיין אין אפליקציות שתומכות בתכונה זו, בקרוב תהיה ל-Copilot גישה ל-Agent Workspace. עם זאת, הדבר מעלה גם חששות בנוגע לפרטיות, מכיוון ש-Copilot יכול לראות את כל המסך של המשתמש.

רכיבי סביבת העבודה של הסוכן נחשבים מסוכנים על ידי מיקרוסופט והם מושבתים כברירת מחדל.

מיקרוסופט מדגישה כי אבטחה אינה תכונה זמנית, אלא מחויבות מתמשכת שתשתכלל עם הזמן. Agent Workspace נועד לאפשר ליישומי בינה מלאכותית לגשת לקבצים ברקע, בעוד שמשתמשים ממשיכים להשתמש במכשירים שלהם.

עם זאת, משתמשים עדיין יכולים לנהל את הגישה ולעצור את הסוכן בעת הצורך. נכון לעכשיו, אנשים רבים עדיין מביעים חששות וחילוקי דעות לגבי תכונה חדשה זו בפורומים מקוונים.

עם זאת, מיקרוסופט מאמינה שככל שיותר משתמשים יקבלו גישה לתכונות ניסיוניות של סוכני בינה מלאכותית, יהיה להם מידע רב יותר על אופן פעולתן וכמה הן מאובטחות.