مایکروسافت ریسک می‌کند

با وجود اینکه مایکروسافت در مورد خطرات ناشی از ادغام هوش مصنوعی در ویندوز ۱۱ شفاف‌سازی کرده است، اما همچنان در مقایسه با رقبایش، نیاز به ایجاد اعتماد در پیاده‌سازی خود دارد.

صفحه ویندوز ۱۱ درخواست اجازه استفاده از عامل هوش مصنوعی را می‌دهد. تصویر: Windows Latest .

طی چند هفته گذشته، مایکروسافت تلاش کرده است تا عوامل هوش مصنوعی را در ویندوز ادغام کند. اما حتی در مستندات خود، این شرکت اذعان می‌کند که این فناوری می‌تواند مستعد «توهم» باشد، رفتار غیرقابل پیش‌بینی داشته باشد و توسط انواع حملاتی که یک سال پیش وجود نداشتند، فریب بخورد.

در اواسط ماه اکتبر، مایکروسافت اعلام کرد که «هر رایانه شخصی ویندوز ۱۱ را به یک رایانه شخصی هوش مصنوعی تبدیل می‌کند.» این شرکت مجموعه‌ای از یکپارچه‌سازی‌های جدید هوش مصنوعی را راه‌اندازی کرد که برای فعال کردن «گفتگو» طراحی شده‌اند و به رایانه اجازه می‌دهند آنچه را که روی صفحه نمایش است ببیند و از طرف آن عمل کند.

ادغام با وجود خطرات.

آخرین اقدامات با هدف تبدیل نوار وظیفه ویندوز ۱۱ به یک مرکز هوش مصنوعی انجام شده است. کادر جستجوی ویندوز ۱۱ با رابط کاربری «از کوپایلوت بپرسید» جایگزین می‌شود و به کاربران امکان می‌دهد با یک کلیک یا دستور به کوپایلوت دسترسی پیدا کنند. این امر به کاربران امکان می‌دهد تا نظارت کنند که کدام عوامل وظایف پس‌زمینه را اجرا می‌کنند، دقیقاً مانند مدیریت برنامه‌های معمولی.

مایکروسافت همچنین وانمود نمی‌کند که این فناوری ایمن یا بدون خطا است. اسناد رسمی این شرکت هشدار می‌دهد که عوامل هوش مصنوعی «محدودیت‌های عملکردی در نحوه رفتار خود دارند و گاهی اوقات می‌توانند دچار توهم شوند و نتایج غیرمنتظره‌ای ایجاد کنند.»

نوار وظیفه پس از ادغام عامل هوش مصنوعی.

یکی از بزرگترین خطرات ذکر شده، تزریق سریع (XPIA) است. در این مورد، یک عامل هوش مصنوعی توسط محتوای مخرب جاسازی شده در اجزای رابط کاربری (UI)، اسناد یا برنامه‌ها فریب می‌خورد. این محتوا می‌تواند دستورالعمل‌های اصلی را نادیده بگیرد و چت‌بات را مجبور به انجام اقدامات مضر مانند کپی کردن فایل‌های حساس یا نشت داده‌ها کند.

محققان امنیتی هشدار داده‌اند که عامل‌های هوش مصنوعی مبتنی بر رابط‌های گرافیکی، به ویژه در برابر این نوع حمله غیرمستقیم آسیب‌پذیر هستند، زیرا اغلب به آنها امتیازات بسیار بالایی اعطا می‌شود. در حالی که مایکروسافت در مورد خطرات شفاف بوده است، Copilot اخیراً با انتقادات شدیدی در مورد حریم خصوصی مواجه شده است و بعید است که فوراً مورد پذیرش قرار گیرد.

مایکروسافت ادعا می‌کند که این عامل‌ها تحت حساب‌های جداگانه با امتیازات محدود و لاگ‌های ضد ویرایش اجرا خواهند شد. با این حال، آنها همچنان به برخی از خصوصی‌ترین مکان‌های رایانه شخصی، مانند اسناد، دانلودها، دسکتاپ، ویدیوها، تصاویر و موسیقی، دسترسی خواندن و نوشتن خواهند داشت.

هدف این است که هوش مصنوعی جایگزین تمام وظایف شود.

فضای کاری عامل، ستون فقرات چشم‌انداز مایکروسافت برای سیستم عامل عامل (Agentic OS) (سیستم عاملی که توسط عامل‌های هوش مصنوعی پشتیبانی می‌شود) است. ویندوز ۱۱ اکنون می‌تواند جلسات جداگانه‌ای برای این عامل‌ها ایجاد کند و قول می‌دهد عملکردهایی مانند ویرایش فایل و انتقال سند را بدون دخالت کاربر انجام دهد.

هر عامل، حساب استاندارد خود را روی رایانه شخصی خواهد داشت که اساساً در یک محیط ویندوز موازی وجود دارد، اما بدون تأثیر مستقیم بر جلسه اصلی. در داخل، چت‌بات مانند یک انسان با برنامه‌ها تعامل می‌کند، مانند کلیک کردن روی دکمه‌های رابط، تایپ متن، پیمایش پنجره‌ها، کشیدن و رها کردن فایل‌ها و انجام وظایف چند مرحله‌ای.

نحوه فعال کردن ویژگی‌های مرتبط با هوش مصنوعی در ویندوز ۱۱

فضای کاری عامل (Agent Workspace) مسئول تصمیم‌گیری در مورد نمایش موارد به عامل‌ها (Agents) است. مایکروسافت همچنین از فهرست‌های کنترل دسترسی (Access Control Lists) برای جلوگیری از تجاوز حساب‌ها از امتیازاتشان استفاده می‌کند. برای فعال کردن هر یک از این ویژگی‌ها، کاربران باید ویژگی‌های عامل تجربی (Experimental Agentic Features) را فعال کنند که به طور پیش‌فرض غیرفعال هستند.

برای مایکروسافت، ادغام هوش مصنوعی در رایانه‌های شخصی گامی برگشت‌ناپذیر در مواجهه با رقابت شدید است. اپل نیز سخت در تلاش است تا Apple Intelligence را توسعه دهد، به خصوص که قصد دارد از نسخه سفارشی Gemini استفاده کند. گوگل نیز قصد دارد با Aluminum OS وارد بازار رایانه‌های شخصی شود.

در حالی که مک‌بوک اقتصادی اپل که به زودی عرضه می‌شود، با مجموعه کامل Apple Intelligence خود، بحث‌های زیادی را به راه انداخته است، ویندوز ۱۱ پیش از این به دلیل ماهیت دست و پا گیر و سرعت پردازش کندتر مورد انتقاد قرار گرفته است. ویژگی هوش مصنوعی قبلی مایکروسافت، Recall، نیز به دلیل امنیت ضعیف خود با واکنش‌های منفی روبرو شده است.

شاید یک سیستم عامل «عاملی» برای همه فروشندگان اجتناب‌ناپذیر باشد. با این حال، طبق گزارش Window Latest، کلید این امر در پیاده‌سازی آن نهفته است و مایکروسافت باید اعتماد کاربران را به فناوری هوش مصنوعی خود دوباره به دست آورد.

منبع: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html