 |
На экране Windows 11 запрашивается разрешение на использование агента искусственного интеллекта. Изображение: Windows Latest . |
В последние несколько недель Microsoft пыталась интегрировать агентов искусственного интеллекта в Windows. Но даже в собственной документации компания признает, что эта технология может быть подвержена «галлюцинациям», вести себя непредсказуемо и быть обманута типами атак, которых еще год назад не существовало.
В середине октября Microsoft объявила о том, что «превращает каждый ПК под управлением Windows 11 в ПК с искусственным интеллектом». Компания запустила ряд новых интеграций с ИИ, призванных обеспечить «диалог», позволяющий компьютеру видеть то, что отображается на экране, и действовать от его имени.
Интеграция, несмотря на риски.
Последние изменения направлены на превращение панели задач Windows 11 в центр искусственного интеллекта. Поисковое поле Windows 11 заменяется интерфейсом «Спроси Copilot», позволяющим пользователям получать доступ к Copilot одним щелчком мыши или командой. Это позволяет пользователям отслеживать, какие агенты выполняют фоновые задачи, подобно управлению обычными приложениями.
Microsoft также не утверждает, что эта технология безопасна или безошибочна. В официальной документации компании содержится предупреждение о том, что агенты ИИ «имеют функциональные ограничения в своем поведении и иногда могут галлюцинировать, что приводит к неожиданным результатам».
 |
Панель задач после интеграции ИИ-агента. |
Одна из самых больших упомянутых угроз — это внедрение перекрестных подсказок (XPIA). В этом случае ИИ-агент обманывается вредоносным контентом, внедренным в компоненты пользовательского интерфейса, документы или приложения. Этот контент может переопределять исходные инструкции и заставлять чат-бота выполнять вредоносные действия, такие как копирование конфиденциальных файлов или утечка данных.
Исследователи в области безопасности предупреждают, что агенты искусственного интеллекта, основанные на графических интерфейсах, особенно уязвимы для такого рода косвенных атак, поскольку им часто предоставляются очень высокие привилегии. Хотя Microsoft открыто говорит о рисках, Copilot недавно столкнулся с резкой критикой в отношении конфиденциальности и вряд ли получит немедленное признание.
Microsoft утверждает, что агенты будут работать под отдельными учетными записями с ограниченными правами и защитой от редактирования. Однако у них по-прежнему будет доступ на чтение и запись к некоторым наиболее конфиденциальным разделам на ПК, таким как Документы, Загрузки, Рабочий стол, Видео, Изображения и Музыка.
Цель состоит в том, чтобы искусственный интеллект заменил все задачи.
Agent Workspace — это основа концепции Microsoft по созданию агентной ОС (операционной системы, работающей на основе агентов искусственного интеллекта). В Windows 11 теперь можно создавать отдельные сессии для этих агентов, что позволяет выполнять такие функции, как редактирование файлов и перемещение документов, без вмешательства пользователя.
У каждого агента будет своя стандартная учетная запись на ПК, по сути, существующая в параллельной среде Windows, но не оказывающая прямого влияния на основную сессию. Внутри чат-бот взаимодействует с приложениями, как человек, например, нажимает кнопки интерфейса, набирает текст, прокручивает окна, перетаскивает файлы и выполняет многоэтапные задачи.
 |
Как включить функции, связанные с искусственным интеллектом, в Windows 11. |
Рабочая область агента отвечает за определение того, что будет отображаться агентам. Microsoft также использует списки контроля доступа (CSC) для предотвращения превышения учетными записями своих прав. Для включения любой из этих функций пользователям необходимо активировать экспериментальные функции агента, которые по умолчанию отключены.
Для Microsoft интеграция ИИ в ПК — это необратимый шаг в условиях жесткой конкуренции. Apple также активно работает над развитием Apple Intelligence, особенно с учетом планов использовать модифицированную версию Gemini. Google также планирует выйти на рынок ПК с операционной системой Aluminium OS.
В то время как грядущий бюджетный MacBook от Apple с полным набором функций Apple Intelligence вызывает много дискуссий, Windows 11 уже подверглась критике за свою громоздкость и низкую скорость обработки данных. Предыдущая функция искусственного интеллекта от Microsoft, Recall, также столкнулась с критикой из-за низкой безопасности.
«Агентная» операционная система, пожалуй, неизбежна для всех поставщиков. Однако, по мнению Window Latest, ключ к успеху кроется в реализации, и Microsoft необходимо будет восстановить доверие пользователей к своей технологии искусственного интеллекта.
Источник: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html
Комментарий (0)