На форуме Security Summit 2026, состоявшемся 22 мая, г-н Май Суан Куонг, директор Центра услуг информационной безопасности компании Viettel Cyber Security, заявил, что наиболее опасное различие между агентами искусственного интеллекта и традиционными программами обучения заключается в их способности напрямую взаимодействовать с системой.
В то время как обычные LLM-системы только принимают команды и возвращают текст, ИИ-агенты способны выполнять команды оболочки (взаимодействовать с операционной системой через командную строку), манипулировать файловыми системами для чтения и записи, автоматически отправлять электронные письма, вызывать API и управлять браузерами. Это обновление непреднамеренно открывает более широкий спектр возможностей для атак, выходящих далеко за рамки типичных кампаний по дезинформации.
Искусственный интеллект становится новой мишенью для киберпреступников.
По мнению экспертов по кибербезопасности, именно эта способность «действовать» делает агентов искусственного интеллекта новой мишенью для киберпреступников.
Один из самых больших рисков — утечка корпоративных данных. Для эффективной работы агентам ИИ часто приходится обрабатывать большие объемы внутренней информации, такой как исходный код, документы и электронные письма. Если эти данные отправляются на сторонние облачные платформы ИИ, риск раскрытия конфиденциальной информации возрастает.
Зафиксированы случаи утечки сотрудниками Samsung нового исходного кода через ChatGPT, а также непреднамеренная утечка данных сотрудниками Meta, которые следовали инструкциям внутреннего ИИ.
Помимо риска утечки данных, эксперты также предупреждают о «непрямом внедрении подсказок». Хакеры могут внедрять вредоносные инструкции в электронные письма, веб-сайты или документы, чтобы обманом заставить агентов ИИ выполнять непредусмотренные действия, такие как доступ к внутренним данным или отправка информации хакеру.
Был случай, когда злоумышленник спрятал азбуку Морзе в сообщении, чтобы обойти систему, что позволило криптовалютному агенту Grok-Bankrbot совершить несанкционированный денежный перевод, в результате которого был нанесен ущерб в размере 150 000 долларов.
Ещё один риск связан с экосистемой расширений для агентов ИИ. Многие сотрудники компаний устанавливают расширения от сообщества, чтобы расширить функциональность ИИ, но хакеры могут использовать этот канал для распространения вредоносного ПО. Получив доступ к системе, эти поддельные плагины могут красть данные, токены или создавать бэкдоры на устройстве.
По словам г-на Куонга, также набирает популярность тенденция «теневого ИИ», когда сотрудники самостоятельно устанавливают ИИ-агентов на свои рабочие компьютеры, минуя ИТ-отдел. Это затрудняет контроль доступа для предприятий и повышает риск нарушений безопасности системы.
Кроме того, ИИ может неправильно интерпретировать намерения пользователя, что приводит к выполнению команд, способных нанести значительный ущерб бизнесу. Например, агент ИИ может выполнить неправильную операцию или случайно удалить важные данные, если ему предоставлены чрезмерные права доступа.
Для снижения рисков организациям рекомендуется создавать многоуровневую модель безопасности вместо того, чтобы полагаться исключительно на традиционное антивирусное программное обеспечение, и разработать соответствующий план внедрения.
Предприятиям необходимо создать многоуровневую модель безопасности.
Первым шагом для любого бизнеса должно стать обнаружение угроз. Для сбора и выявления угроз компании могут использовать конечные устройства и трафик веб-прокси (промежуточные серверы, соединяющие устройства с Интернетом).
Далее нам необходимо настроить шлюз ИИ, сделав его единой точкой управления для всего доступа к ИИ. Этот шлюз будет контролировать передачу данных в публичное облако.
Впоследствии предприятиям необходимо внедрить дополнительный уровень специализированного контроля (Guardrail) на свой шлюз ИИ и другие приложения ИИ для выявления вредоносных команд, предотвращения утечек данных и обнаружения несанкционированного доступа или использования системы в своих целях.
Следующий шаг — создание резервных средств для ИИ-агента. Система мониторинга на конечной точке должна быть настроена на отслеживание необычного «автономного поведения». ИИ-агент должен работать в изолированной среде с минимальным доступом, чтобы ограничить риск распространения в случае инцидента. Наконец, регулярный мониторинг системы имеет важное значение.
«Управление безопасностью ИИ — это не разовое мероприятие, а непрерывный процесс мониторинга», — заявил г-н Куонг.
В период стремительного развития ИИ-агентов управление безопасностью станет обязательным требованием. Если компании не готовы внедрить модели безопасности «нулевого доверия» и строгий мониторинг, предоставление ИИ-агентам возможности действовать будет сродни передаче ключей от системы сотруднику, который, несмотря на высокую квалификацию, очень уязвим для манипуляций.
Источник: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Комментарий (0)