Що можуть зробити підприємства, щоб уникнути «повороту проти» агентів штучного інтелекту?

DNVN – ШІ ​​розвивається від простих мовних моделей (LLM), які вміють лише «розмовляти», до агентів ШІ – «цифрових помічників» – здатних автоматично виконувати складні завдання, обіцяючи стати потужною цифровою робочою силою в майбутньому. Однак надання ШІ повноважень діяти створює багато нових ризиків атак, загрожуючи інформаційній безпеці бізнесу.

На форумі Security Summit 2026, що відбувся 22 травня, пан Май Сюань Куонг, директор Центру послуг інформаційної безпеки Viettel Cyber ​​​​Security, заявив, що найнебезпечніша відмінність між агентами ШІ та традиційними LLM полягає в їхній здатності безпосередньо взаємодіяти з системою.

У той час як звичайні LLM лише отримують команди та повертають текст, агенти штучного інтелекту мають можливість виконувати команди оболонки (взаємодіяти з операційною системою через командний рядок), маніпулювати файловими системами для читання та запису, автоматично надсилати електронні листи, викликати API та керувати браузерами. Це оновлення ненавмисно відкриває ширший спектр можливостей атак, що виходить далеко за рамки типових дезінформаційних кампаній.

Пан Май Сюань Куонг – директор Центру послуг інформаційної безпеки, Viettel Cyber ​​​​Security.

Агенти зі штучним інтелектом стають новою мішенню для кіберзлочинців.

За словами експертів з кібербезпеки, саме ця здатність «діяти» робить агентів зі штучним інтелектом новою мішенню для кіберзлочинців.

Одним з найбільших ризиків є витік корпоративних даних. Для ефективної роботи агентам штучного інтелекту часто доводиться обробляти великі обсяги внутрішньої інформації, такої як вихідний код, документи та електронні листи. Якщо ці дані надсилаються на сторонні хмарні платформи штучного інтелекту, ризик розкриття конфіденційної інформації зростає.

Були зафіксовані випадки, коли співробітники Samsung витікали новий вихідний код через ChatGPT, або коли співробітники Meta ненавмисно витікали дані, виконуючи інструкції внутрішнього штучного інтелекту.

Окрім ризику витоку даних, експерти також попереджають про «непряме впровадження запитів». Хакери можуть вбудовувати шкідливі інструкції в електронні листи, веб-сайти або документи, щоб обманом змусити агентів штучного інтелекту виконувати непередбачувані дії, такі як доступ до внутрішніх даних або надсилання інформації хакеру.

Був випадок, коли зловмисник приховав азбуку Морзе в повідомленні, щоб обійти систему, що дозволило криптовалютному агенту Grok-Bankrbot здійснити несанкціонований грошовий переказ, що призвело до втрати 150 000 доларів.

Ще один ризик пов’язаний з екосистемою розширень для агентів штучного інтелекту. Багато співробітників компаній встановлюють розширення зі спільноти, щоб розширити функціональність ШІ, але хакери можуть використовувати цей канал для поширення шкідливого програмного забезпечення. Після отримання доступу до системи ці фальшиві плагіни можуть красти дані, токени або створювати бекдори на пристрої.

За словами пана Куонга, також з'являється тенденція «тіньового штучного інтелекту», оскільки співробітники самостійно встановлюють агенти штучного інтелекту на свої робочі комп’ютери, не звертаючись до ІТ-відділу. Це ускладнює для компаній контроль доступу та збільшує ризик порушень безпеки системи.

Крім того, ШІ може неправильно інтерпретувати наміри користувача, що призводить до виконання команд, які можуть завдати значної шкоди бізнесу. Наприклад, агент ШІ може виконати неправильну операцію або випадково видалити важливі дані, якщо йому надано надмірні дозволи.

Щоб зменшити ризики, організаціям рекомендується побудувати багаторівневу модель безпеки замість того, щоб покладатися виключно на традиційне антивірусне програмне забезпечення, та розробити відповідний план впровадження.

Бізнесу необхідно побудувати багаторівневу модель безпеки.

Перший крок, який має зробити бізнес, – це виявлення загроз. Бізнес може використовувати кінцеві точки та трафік веб-проксі (проміжні сервери, що підключають пристрої до Інтернету) для агрегації та виявлення загроз.

Далі нам потрібно налаштувати шлюз штучного інтелекту, зробивши його єдиною точкою керування для всього доступу штучного інтелекту. Цей шлюз контролюватиме передачу даних до публічної хмари.

Згодом, підприємствам необхідно впровадити додатковий рівень спеціалізованого контролю (Guardrail) на своїх шлюзах штучного інтелекту та інших застосунках штучного інтелекту, щоб виявляти шкідливі команди, запобігати витокам даних та виявляти несанкціонований доступ або експлуатацію системи.

Наступний крок – налаштування підкріплення для ШІ-агента. Система моніторингу на кінцевій точці повинна бути налаштована для відстеження незвичайної «автономної поведінки». ШІ-агент повинен працювати в ізольованому середовищі з мінімальним доступом, щоб обмежити ризик поширення у разі інциденту. Нарешті, регулярний моніторинг системи є важливим.

«Управління безпекою штучного інтелекту — це не одноразове розгортання, а процес постійного моніторингу», — заявив пан Куонг.

Управління безпекою штучного інтелекту стане обов'язковою вимогою в період швидкого розвитку агентів штучного інтелекту. Якщо компанії не готові запровадити моделі безпеки Zero Trust та ретельний моніторинг, надання агентам штучного інтелекту можливості діяти буде схоже на передачу системних ключів співробітнику, який, хоча й має високу кваліфікацію, дуже схильний до маніпуляцій.

Мирний

Джерело: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445