Microsoft попереджає, що штучний інтелект у Windows 11 є занадто потужним.

Завдяки можливостям штучного інтелекту, Microsoft також стверджує, що Windows 11 еволюціонує в майбутню «агентну ОС».

Microsoft зараз розробляє Windows 11, плануючи в майбутньому перетворити її на «агентську ОС». Однак компанія попередила про потенційні ризики, пов’язані з цією новою функцією.

Перш ніж розгортати експериментальні функції для користувачів програми Windows Insider, Microsoft радить користувачам Windows 11 вмикати ці функції лише за умови повного розуміння наслідків для безпеки.

Користувачам рекомендується бути обережними під час надання дозволів доступу компонентам агента штучного інтелекту.

Згідно з BGR , Microsoft підтвердила, що компоненти агента ШІ (штучного інтелекту) будуть вимкнені за замовчуванням, оскільки ця функція може становити ризик атак типу «перехресне впровадження запитів» (XPIA).

Ця атака відбувається, коли програмам штучного інтелекту надається доступ до файлів користувачів, що потенційно призводить до витоку даних або встановлення шкідливого програмного забезпечення. Облікові записи агентів, надані після ввімкнення функцій агента штучного інтелекту, матимуть обмежений доступ до папок профілів користувачів, але все одно можуть спричинити небажані наслідки.

Експериментальні компоненти агента штучного інтелекту під назвою Agent Workspace тепер доступні в режимі попереднього перегляду для розробників і незабаром будуть розгорнуті для більшої кількості користувачів.

Хоча наразі жодна програма не підтримує цю функцію, Copilot незабаром матиме доступ до робочої області агента. Однак це також викликає занепокоєння щодо конфіденційності, оскільки Copilot може бачити весь екран користувача.

Microsoft вважає певні компоненти Agent Workspace дуже небезпечними, тому вони вимкнені за замовчуванням.

Microsoft наголошує, що безпека — це не тимчасова функція, а постійне зобов’язання, яке з часом коригуватиметься. Agent Workspace розроблено таким чином, щоб дозволити програмам штучного інтелекту отримувати доступ до файлів у фоновому режимі, поки користувачі продовжують використовувати свої пристрої.

Однак користувачі все ще можуть керувати дозволами доступу та зупиняти агента за потреби. Наразі багато людей все ще висловлюють занепокоєння та незгоди щодо цієї нової функції на онлайн-форумах.

Тим не менш, Microsoft вважає, що чим більше користувачів отримають доступ до експериментальних функцій агента штучного інтелекту, тим більше вони матимуть інформації про те, як вони працюють і наскільки безпечні.

Microsoft представляє функції штучного інтелекту в Agent 365.

Джерело: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-บน-windows-11-qua-ba-dao-post2149073216.html