 |
Екран Windows 11 запитує дозвіл на використання агента штучного інтелекту. Зображення: Windows Latest . |
Протягом останніх кількох тижнів Microsoft намагалася інтегрувати агентів штучного інтелекту в Windows. Але навіть у власній документації компанія визнає, що ця технологія може бути схильною до «галюцинацій», поводитися непередбачувано та бути обдуреною типами атак, яких не існувало рік тому.
У середині жовтня Microsoft оголосила, що «перетворює кожен ПК з Windows 11 на ПК зі штучним інтелектом». Компанія запустила серію нових інтеграцій зі штучним інтелектом, розроблених для забезпечення «розмови», що дозволяє комп’ютеру бачити, що відбувається на екрані, та діяти від його імені.
Інтеграція попри ризики.
Останні кроки спрямовані на перетворення панелі завдань Windows 11 на центр штучного інтелекту. Поле пошуку Windows 11 замінюється інтерфейсом «Запитайте Copilot», що дозволяє користувачам отримувати доступ до Copilot одним клацанням миші або командою. Це дозволяє користувачам відстежувати, які агенти виконують фонові завдання, подібно до керування звичайними програмами.
Microsoft також не претендує на те, щоб ця технологія була безпечною чи безпомилковою. В офіційній документації компанії попереджається, що агенти штучного інтелекту «мають функціональні обмеження у своїй поведінці та іноді можуть галюцинувати, що призводить до неочікуваних результатів».
 |
Панель завдань після інтеграції агента штучного інтелекту. |
Одним з найбільших ризиків, що згадуються, є перехресне впровадження запитів (XPIA). У цьому випадку агент штучного інтелекту обманюється шкідливим контентом, вбудованим у компоненти інтерфейсу користувача (UI), документи або програми. Цей контент може перевизначити оригінальні інструкції та змусити чат-бота виконувати шкідливі дії, такі як копіювання конфіденційних файлів або витік даних.
Дослідники з безпеки попереджають, що агенти штучного інтелекту на основі графічних інтерфейсів особливо вразливі до цього типу непрямої атаки, оскільки їм часто надаються дуже високі привілеї. Хоча Microsoft прозоро заявляє про ризики, Copilot нещодавно зіткнувся з жорсткою критикою щодо конфіденційності та навряд чи отримає негайне схвалення.
Microsoft стверджує, що агенти працюватимуть під окремими обліковими записами з обмеженими привілеями та журналами, що забороняють редагування. Однак вони все ще матимуть доступ на читання та запис до деяких найприватніших місць на ПК, таких як Документи, Завантаження, Робочий стіл, Відео, Зображення та Музика.
Амбіція полягає в тому, щоб штучний інтелект замінив усі завдання.
Робочий простір агента є основою бачення Microsoft щодо агентної ОС (операційної системи, що працює на основі агентів штучного інтелекту). Windows 11 тепер може створювати окремі сеанси для цих агентів, обіцяючи виконувати такі функції, як редагування файлів і переміщення документів, без втручання користувача.
Кожен агент матиме власний стандартний обліковий запис на ПК, який по суті існує в паралельному середовищі Windows, але не впливає безпосередньо на основний сеанс. Усередині чат-бот взаємодіє з програмами, як людина, наприклад, натискає кнопки інтерфейсу, вводить текст, прокручує вікна, перетягує файли та виконує багатоетапні завдання.
 |
Як увімкнути функції, пов'язані зі штучним інтелектом, у Windows 11. |
Робочий простір агента відповідає за визначення того, що відображатиметься агентам. Microsoft також використовує списки контролю доступу, щоб запобігти перевищенню прав облікових записів. Щоб увімкнути будь-яку з цих функцій, користувачам потрібно активувати експериментальні функції агента, які за замовчуванням вимкнено.
Для Microsoft інтеграція штучного інтелекту в ПК є незворотним кроком в умовах жорсткої конкуренції. Apple також наполегливо працює над розробкою Apple Intelligence, особливо враховуючи плани використовувати кастомізовану версію Gemini. Google також планує вийти на ринок ПК з Aluminium OS.
Хоча майбутній бюджетний MacBook від Apple з повним пакетом Apple Intelligence викликає багато обговорень, Windows 11 вже критикували за громіздкість та повільнішу швидкість обробки даних. Попередня функція штучного інтелекту від Microsoft, Recall, також зіткнулася з негативною реакцією через низьку безпеку.
«Агентська» операційна система, мабуть, неминуча для всіх постачальників. Однак, за даними Window Latest, ключ полягає у впровадженні, і Microsoft потрібно буде повернути довіру користувачів до своєї технології штучного інтелекту.
Джерело: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html
Коментар (0)