Microsoft выпустила предупреждение, поскольку ИИ в Windows 11 слишком «мощный»

Microsoft также полагает, что благодаря возможностям искусственного интеллекта Windows 11 в будущем превратится в «агрессивную ОС».

Microsoft разрабатывает Windows 11 и планирует в будущем превратить её в «агрессивную ОС». Однако компания уже предупредила о потенциальных рисках, связанных с этой новой функцией.

Прежде чем предоставлять экспериментальные функции участникам программы предварительной оценки Windows, Microsoft рекомендует пользователям Windows 11 включать эти функции только в том случае, если они понимают их последствия для безопасности.

Пользователям рекомендуется проявлять осторожность при предоставлении доступа к компонентам ИИ-агента.

По данным BGR , компания Microsoft подтвердила, что компоненты агента ИИ (искусственного интеллекта) будут отключены по умолчанию, поскольку эта функция может вызвать риски атак с использованием перекрестной инъекции (XPIA).

Эта атака происходит, когда приложениям на основе ИИ предоставляется доступ к файлам пользователя, что может привести к утечке данных или установке вредоносного ПО. Учётные записи агентов, предоставляемые при включении функций агентов на основе ИИ, имеют ограниченный доступ к папке профиля пользователя, но всё же могут привести к непредвиденным последствиям.

Экспериментальные компоненты ИИ-агента под названием Agent Workspace теперь доступны в предварительной версии для разработчиков и вскоре будут развернуты для большего числа пользователей.

Хотя пока ни одно приложение не поддерживает эту функцию, Copilot вскоре получит доступ к Agent Workspace. Однако это также вызывает опасения по поводу конфиденциальности, поскольку Copilot видит весь экран пользователя.

Компоненты Agent Workspace считаются Microsoft опасными и по умолчанию отключены.

Microsoft подчёркивает, что безопасность — это не временная функция, а постоянное обязательство, которое будет совершенствоваться со временем. Agent Workspace предназначен для того, чтобы приложения на базе искусственного интеллекта могли получать доступ к файлам в фоновом режиме, пока пользователи продолжают использовать свои устройства.

Тем не менее, пользователи по-прежнему могут управлять доступом и останавливать агента при необходимости. В настоящее время многие пользователи по-прежнему выражают обеспокоенность и несогласие по поводу этой новой функции на онлайн-форумах.

Тем не менее, в Microsoft полагают, что по мере того, как все больше пользователей получат доступ к экспериментальным функциям агентов ИИ, у них будет больше информации о том, как они работают и насколько они безопасны.

Microsoft представляет функции ИИ в Agent 365.

Источник: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html