Microsoft идет на риск

Хотя Microsoft открыто заявляет о рисках, связанных с внедрением агентов ИИ в Windows 11, компании все еще необходимо завоевать доверие к их реализации по сравнению с конкурентами.

Экран Windows 11 с запросом разрешения на использование агента ИИ. Фото: Windows Latest .

В последние несколько недель Microsoft работала над интеграцией агентов ИИ в Windows. Но даже в собственной документации компании признаётся, что технология может «галлюцинировать», вести себя непредсказуемо и даже поддаваться обману атаками, которых ещё год назад не существовало.

В середине октября Microsoft объявила, что «превращает каждый компьютер с Windows 11 в компьютер с искусственным интеллектом». Компания запустила серию новых интеграций искусственного интеллекта, которые позволят компьютеру «общаться», видеть то, что происходит на экране, и действовать от его имени.

Интегрируйте на свой страх и риск

Последние шаги направлены на превращение панели задач Windows 11 в центр искусственного интеллекта. Строка поиска Windows 11 заменяется интерфейсом «Спросить Copilot», который позволяет вызывать Copilot одним щелчком мыши или командой. С его помощью можно отслеживать агентов, выполняющих задачи в фоновом режиме, так же, как и обычные приложения.

Microsoft также не утверждает, что эта технология безопасна или безошибочна. В официальной документации компании предупреждается, что ИИ-агенты «имеют функциональные ограничения в своём поведении и иногда могут галлюцинировать, приводя к непредвиденным последствиям».

Панель задач после интеграции ИИ-агента.

Один из самых серьёзных упомянутых рисков — это внедрение перекрёстных запросов (XPIA). При этом ИИ-агент обманывается вредоносным контентом, встроенным в компоненты пользовательского интерфейса (UI), документы или приложения. Этот контент может переопределить исходные инструкции и заставить чат-бота выполнить вредоносные действия, такие как копирование конфиденциальных файлов или утечка данных.

Исследователи безопасности предупреждают, что агенты ИИ с графическим интерфейсом особенно уязвимы для подобных косвенных атак, поскольку часто обладают очень высокими привилегиями. Хотя Microsoft открыто заявляет о рисках, Copilot недавно подвергся критике из-за проблем с конфиденциальностью и вряд ли будет принят на вооружение немедленно.

Microsoft утверждает, что агенты работают под отдельными учётными записями, с ограниченными правами доступа и журналами защиты от несанкционированного доступа. Тем не менее, они всё равно имеют доступ на чтение и запись к некоторым из самых конфиденциальных папок на вашем компьютере, таким как «Документы», «Загрузки», «Рабочий стол», «Видео», «Изображения» и «Музыка».

Стремление заменить все задачи искусственным интеллектом

Agent Workspace — это основа концепции операционной системы Agentic от Microsoft. Windows 11 теперь позволяет создавать отдельные сеансы для этого агента, что позволяет выполнять такие функции, как редактирование файлов и перемещение документов, без участия пользователя.

У каждого агента будет своя стандартная учётная запись на ПК, которая представляет собой параллельную среду Windows, но не влияет напрямую на основной рабочий сеанс. Внутри неё чат-бот взаимодействует с приложениями так же, как человек, например, нажимая кнопки интерфейса, вводя текст, прокручивая окна, перетаскивая файлы и выполняя многошаговые задачи.

Как включить функции искусственного интеллекта в Windows 11.

Рабочее пространство агента отвечает за определение того, что должно отображаться для агентов. Microsoft также использует списки контроля доступа, чтобы предотвратить превышение полномочий учётными записями. Чтобы включить любую из этих функций, пользователям необходимо включить экспериментальные функции агента, которые по умолчанию отключены.

Для Microsoft интеграция ИИ в ПК — это шаг, который невозможно отменить в условиях жёсткой конкуренции. Apple также активно работает над развитием Apple Intelligence, особенно в рамках планов использования специализированной версии Gemini. Google также планирует выйти на рынок ПК с Aluminum OS.

В то время как грядущий недорогой MacBook от Apple с полноценной версией Apple Intelligence широко обсуждался, Windows 11 критиковали за неуклюжесть и медленную обработку задач. Предыдущая функция искусственного интеллекта Microsoft, Recall, вызвала негативную реакцию из-за своей низкой безопасности.

Операционные системы «Агент», вероятно, неизбежны для всех поставщиков. Однако, по данным Window Latest, главное — это внедрение, и Microsoft необходимо вернуть доверие пользователей к своей технологии искусственного интеллекта.

Источник: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html