Microsoft попереджає, що штучний інтелект у Windows 11 занадто «потужний»

Завдяки можливостям штучного інтелекту, Microsoft також вважає, що Windows 11 у майбутньому перебуває в процесі еволюції в «агресивну ОС».

Microsoft зараз розробляє Windows 11, плануючи в майбутньому перевести її на «агресивну ОС». Однак компанія попередила про потенційні ризики, пов’язані з цією новою функцією.

Перш ніж розгортати експериментальні функції для учасників програми оцінювання Windows, Microsoft рекомендує користувачам Windows 11 вмикати ці функції, лише якщо вони розуміють наслідки для безпеки.

Користувачам рекомендується бути обережними, надаючи доступ компонентам агента штучного інтелекту.

Згідно з BGR , Microsoft підтвердила, що компоненти агента ШІ (штучного інтелекту) будуть вимкнені за замовчуванням, оскільки ця функція може спричинити ризики атаки перехресного впровадження запитів (XPIA).

Ця атака відбувається, коли програмам штучного інтелекту надається доступ до файлів користувача, що може призвести до витоку даних або встановлення шкідливого програмного забезпечення. Облікові записи агентів, надані після ввімкнення функцій агента штучного інтелекту, мають обмежений доступ до папки профілю користувача, але все ще можуть спричинити небажані наслідки.

Експериментальні компоненти агента штучного інтелекту під назвою Agent Workspace тепер доступні в режимі попереднього перегляду для розробників і незабаром будуть розгорнуті для більшої кількості користувачів.

Хоча поки що жодні програми не підтримують цю функцію, Copilot незабаром матиме доступ до робочого простору агента. Однак це також викликає занепокоєння щодо конфіденційності, оскільки Copilot може бачити весь екран користувача.

Компоненти робочої області агента вважаються небезпечними корпорацією Майкрософт і за замовчуванням вимкнені.

Microsoft наголошує, що безпека — це не тимчасова функція, а постійне зобов’язання, яке з часом удосконалюватиметься. Agent Workspace розроблено таким чином, щоб дозволити програмам штучного інтелекту отримувати доступ до файлів у фоновому режимі, поки користувачі продовжують використовувати свої пристрої.

Однак користувачі все ще можуть керувати доступом і зупиняти агента за потреби. Наразі багато людей все ще висловлюють занепокоєння та незгоди щодо цієї нової функції на онлайн-форумах.

Тим не менш, Microsoft вважає, що чим більше користувачів отримуватимуть доступ до експериментальних функцій агентів штучного інтелекту, тим більше інформації вони матимуть про те, як вони працюють і наскільки безпечні.

Microsoft представляє функції штучного інтелекту в Agent 365.

Джерело: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html