مايكروسوفت تتخذ المخاطر

في حين أن مايكروسوفت شفافة بشأن المخاطر التي تشكلها وكلاء الذكاء الاصطناعي المدمجين في نظام التشغيل Windows 11، إلا أنها لا تزال بحاجة إلى بناء الثقة في تنفيذها مقارنة بالمنافسين.

شاشة ويندوز ١١ تطلب الإذن لاستخدام وكيل الذكاء الاصطناعي. الصورة: أحدث نسخة من ويندوز .

على مدار الأسابيع القليلة الماضية، عملت مايكروسوفت على دمج وكلاء الذكاء الاصطناعي في نظام ويندوز. ولكن حتى وثائق الشركة تُقرّ بإمكانية "الوهم" في هذه التقنية، وتصرفاتها غير المتوقعة، بل وحتى خداعها بهجمات لم تكن موجودة قبل عام.

في منتصف أكتوبر، أعلنت مايكروسوفت أنها "ستحوّل كل جهاز كمبيوتر يعمل بنظام ويندوز 11 إلى جهاز كمبيوتر مزوّد بالذكاء الاصطناعي". وأطلقت الشركة سلسلة من تكاملات الذكاء الاصطناعي الجديدة التي ستتيح "المحادثات"، ما يسمح للكمبيوتر برؤية ما يظهر على الشاشة والسماح له بالتصرف نيابةً عنه.

التكامل على مسؤوليتك الخاصة

تهدف أحدث التطورات إلى تحويل شريط مهام ويندوز 11 إلى منصة للذكاء الاصطناعي. يُستبدل مربع بحث ويندوز 11 بواجهة "اسأل مساعد الطيار"، التي تتيح لك الاتصال بمساعد الطيار بنقرة أو أمر واحد. ومن هناك، يمكنك مراقبة الوكلاء الذين يُشغّلون مهامًا في الخلفية، تمامًا كما لو كنت تُدير تطبيقات عادية.

لا تدّعي مايكروسوفت أيضًا أن هذه التقنية آمنة أو معصومة من الخطأ. تُحذّر وثائقها الرسمية من أن برامج الذكاء الاصطناعي "لديها قيود وظيفية في سلوكها، وقد تُصاب أحيانًا بالهلوسة، مما يُؤدي إلى نتائج غير مقصودة".

شريط المهام بعد دمج وكيل الذكاء الاصطناعي.

من أكبر المخاطر المذكورة حقن الأوامر المتقاطعة (XPIA). في هذه الحالة، يتم خداع عميل الذكاء الاصطناعي بمحتوى ضار مُضمّن في مكونات واجهة المستخدم (UI) أو المستندات أو التطبيقات. يمكن لهذا المحتوى تجاوز التعليمات الأصلية وإجبار روبوت المحادثة على القيام بأعمال ضارة، مثل نسخ الملفات الحساسة أو تسريب البيانات.

حذّر باحثو الأمن من أن وكلاء الذكاء الاصطناعي المعتمدين على واجهة المستخدم الرسومية (GUI) معرضون بشكل خاص لهذه الأنواع من الهجمات غير المباشرة، نظرًا لامتلاكهم غالبًا امتيازات عالية جدًا. وبينما التزمت مايكروسوفت بالشفافية بشأن المخاطر، تعرّضت Copilot لانتقادات شديدة مؤخرًا بسبب مخاوف تتعلق بالخصوصية، ومن غير المرجح اعتمادها فورًا.

تزعم مايكروسوفت أن هذه البرامج تعمل من خلال حسابات منفصلة، ​​بأذونات محدودة، وسجلات حماية من التلاعب. ومع ذلك، لا يزال بإمكانها الوصول إلى بعض أكثر المواقع خصوصية على جهاز الكمبيوتر الخاص بك، مثل المستندات، والتنزيلات، وسطح المكتب، والفيديوهات، والصور، والموسيقى.

الطموح لاستبدال جميع المهام بالذكاء الاصطناعي

تُعدّ مساحة عمل العميل العمود الفقري لرؤية مايكروسوفت لنظام تشغيل عميل. يُمكن الآن لنظام Windows 11 إنشاء جلسات منفصلة لهذا العميل، مما يُتيح أداء وظائف مثل تحرير الملفات ونقل المستندات دون الحاجة إلى مستخدم.

لكل عميل حساب قياسي خاص به على جهاز الكمبيوتر، وهو أشبه ببيئة ويندوز موازية، ولكنه لا يؤثر مباشرةً على جلسة العمل الرئيسية. داخله، يتفاعل روبوت المحادثة مع التطبيقات بنفس طريقة تفاعل الإنسان، مثل النقر على أزرار الواجهة، وإدخال النصوص، والتمرير عبر النوافذ، وسحب الملفات وإفلاتها، وتنفيذ مهام متعددة الخطوات.

كيفية تمكين الميزات المتعلقة بالذكاء الاصطناعي على نظام التشغيل Windows 11.

مساحة عمل الوكيل مسؤولة عن تحديد ما يُعرض للوكلاء. تستخدم مايكروسوفت أيضًا قوائم التحكم في الوصول لمنع الحسابات من تجاوز صلاحياتها. لتفعيل أيٍّ من هذه الميزات، يجب على المستخدمين تفعيل ميزات الوكيل التجريبية، وهي مُعطّلة افتراضيًا.

بالنسبة لمايكروسوفت، يُعد دمج الذكاء الاصطناعي في أجهزة الكمبيوتر خطوةً لا رجعة فيها في ظل المنافسة الشرسة. كما تعمل آبل جاهدةً على تطوير ذكاء آبل، خاصةً مع خططها لاستخدام نسخة مُخصصة من نظام جيميني. كما تُخطط جوجل لدخول سوق أجهزة الكمبيوتر بنظام تشغيل ألومنيوم.

في حين أن جهاز ماك بوك القادم منخفض التكلفة من آبل، المزود بنسخة كاملة من ذكاء آبل، قد حظي بنقاش واسع، إلا أن ويندوز 11 تعرض لانتقادات بسبب بطء معالجته للمهام. كما أثارت ميزة الذكاء الاصطناعي السابقة من مايكروسوفت، Recall، انتقادات بسبب ضعف أمنها.

ربما تكون أنظمة التشغيل "العميلة" حتمية لجميع البائعين. ومع ذلك، ووفقًا لـ Window Latest، فإن المهم هو التنفيذ، وستحتاج مايكروسوفت إلى استعادة ثقة المستخدمين في تقنية الذكاء الاصطناعي الخاصة بها.

المصدر: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html