מיקרוסופט לוקחת סיכונים

למרות היותה שקופה לגבי הסיכונים הנשקפים משילוב הבינה המלאכותית ב-Windows 11, מיקרוסופט עדיין צריכה לבנות אמון ביישום שלה בהשוואה למתחריה.

מסך Windows 11 מבקש אישור להשתמש בסוכן הבינה המלאכותית. תמונה: Windows Latest .

במהלך השבועות האחרונים, מיקרוסופט מנסה לשלב סוכני בינה מלאכותית במערכת ההפעלה Windows. אך אפילו בתיעוד שלה, החברה מכירה בכך שטכנולוגיה זו עלולה להיות מועדת ל"הזיות", להתנהג בצורה בלתי צפויה ולהיות מוטעה על ידי סוגי התקפות שלא היו קיימות לפני שנה.

באמצע אוקטובר, מיקרוסופט הודיעה שהיא "הופכת כל מחשב Windows 11 למחשב מבוסס בינה מלאכותית". החברה השיקה סדרה של אינטגרציות חדשות בתחום הבינה המלאכותית שנועדו לאפשר "שיחה", המאפשרת למחשב לראות מה מופיע על המסך ולפעול בשמו.

אינטגרציה למרות הסיכונים.

המהלכים האחרונים נועדו להפוך את שורת המשימות של Windows 11 למרכז בינה מלאכותית. תיבת החיפוש של Windows 11 מוחלפת בממשק "שאל את Copilot", המאפשר למשתמשים לגשת ל-Copilot בלחיצה אחת או בפקודה. זה מאפשר למשתמשים לנטר אילו סוכנים מפעילים משימות ברקע, בדומה לניהול יישומים רגילים.

מיקרוסופט גם לא מתיימרת שהטכנולוגיה הזו בטוחה או נטולת שגיאות. התיעוד הרשמי של החברה מזהיר כי לסוכני בינה מלאכותית "יש מגבלות תפקודיות באופן שבו הם מתנהגים ולעיתים עלולים להזות, מה שיפיק תוצאות בלתי צפויות".

שורת המשימות לאחר שילוב סוכן הבינה המלאכותית.

אחד הסיכונים הגדולים ביותר שהוזכרו הוא הזרקת פרומפטים צולבים (XPIA). במקרה כזה, סוכן בינה מלאכותית מוטעה על ידי תוכן זדוני המוטמע ברכיבי ממשק משתמש (UI), מסמכים או יישומים. תוכן זה יכול לעקוף הוראות מקוריות ולאלץ את הצ'אטבוט לבצע פעולות מזיקות כגון העתקת קבצים רגישים או דליפת נתונים.

חוקרי אבטחה הזהירו כי סוכני בינה מלאכותית המבוססים על ממשקים גרפיים פגיעים במיוחד לסוג זה של מתקפה עקיפה, מכיוון שלעתים קרובות ניתנות להם הרשאות גבוהות מאוד. בעוד שמיקרוסופט הייתה שקופה לגבי הסיכונים, Copilot ספגה לאחרונה ביקורת חריפה בנוגע לפרטיות וסביר להניח שלא יזכה להכרה מיידית.

מיקרוסופט טוענת שהסוכנים יפעלו תחת חשבונות נפרדים עם הרשאות מוגבלות ויומני עריכה. עם זאת, עדיין תהיה להם גישת קריאה וכתיבה לחלק מהמיקומים הפרטיים ביותר במחשב, כגון מסמכים, הורדות, שולחן עבודה, סרטונים, תמונות ומוזיקה.

השאיפה היא שבינה מלאכותית תחליף את כל המשימות.

סביבת עבודה של סוכנים היא עמוד השדרה של חזון מיקרוסופט למערכת הפעלה Agentic (מערכת הפעלה המופעלת על ידי סוכני בינה מלאכותית). כעת Windows 11 יכול ליצור הפעלות נפרדות עבור סוכנים אלה, ומבטיח לבצע פונקציות כגון עריכת קבצים והעברת מסמכים ללא התערבות המשתמש.

לכל סוכן יהיה חשבון סטנדרטי משלו במחשב, שיתקיים למעשה בסביבת Windows מקבילה אך מבלי להשפיע ישירות על הסשן הראשי. בפנים, הצ'אטבוט מקיים אינטראקציה עם יישומים כמו אדם, כגון לחיצה על כפתורי ממשק, הקלדת טקסט, גלילה בחלונות, גרירה ושחרור של קבצים וביצוע משימות מרובות שלבים.

כיצד להפעיל תכונות הקשורות לבינה מלאכותית ב-Windows 11.

סביבת העבודה של הסוכנים אחראית על קביעת מה יוצג לסוכנים. מיקרוסופט משתמשת גם ברשימות בקרת גישה כדי למנוע מחשבונות לחרוג מההרשאות שלהם. כדי להפעיל אחת מהתכונות הללו, על המשתמשים להפעיל את תכונות הסוכנות הניסיוניות, המושבתות כברירת מחדל.

עבור מיקרוסופט, שילוב בינה מלאכותית במחשבים אישיים הוא צעד בלתי הפיך לנוכח התחרות העזה. אפל גם עובדת קשה על פיתוח Apple Intelligence, במיוחד לאור תוכניותיה להשתמש בגרסה מותאמת אישית של Gemini. גוגל גם מתכננת להיכנס לשוק המחשבים האישיים עם מערכת ההפעלה Aluminium OS.

בעוד שמחשב ה-MacBook התקציבי הקרוב של אפל, עם חבילת Apple Intelligence המלאה שלו, מעורר דיון רב, Windows 11 כבר ספגה ביקורת על אופיו המסורבל ומהירות העיבוד האיטית יותר. גם תכונת הבינה המלאכותית הקודמת של מיקרוסופט, Recall, ספגה ביקורת חריפה עקב אבטחתה ירודה.

מערכת הפעלה "סוכנתית" היא אולי בלתי נמנעת עבור כל הספקים. עם זאת, לפי Window Latest, המפתח טמון ביישום, ומיקרוסופט תצטרך להחזיר את אמון המשתמשים בטכנולוגיית הבינה המלאכותית שלה.

מקור: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html