Обзор мероприятия OpenInfra & Cloud Native Day Vietnam 2025 на тему «Эра цифрового прорыва Вьетнама» — Фото: CHI HIEU
Искусственный интеллект (ИИ) приносит много пользы, особенно сейчас, когда он внедряется многими предприятиями для обслуживания конечных пользователей, таких как сотрудники компании, клиенты... В связи с этим интегрированные с ИИ системы чат-ботов могут стать «узкой дверью» для хакеров, желающих атаковать и красть информацию из систем хранения данных.
«В настоящее время существует множество методов атак на модели ИИ, наиболее распространенным из которых является «отравление контента», которое, по-видимому, «невидимо» для традиционных систем защиты информации», — предупредил г-н Дао Вьет Хунг, директор Akamai Technologies Vietnam, на мероприятии OpenInfra & Cloud Native Day Vietnam 2025, которое состоялось 26 июля в Ханое .
Мероприятие было организовано Ассоциацией Интернета Вьетнама (VIA) совместно с Сообществом открытой инфраструктуры Вьетнама (VietOpenInfra), Клубом облачных вычислений и центров обработки данных Вьетнама (VNCDC) при поддержке Министерства науки и технологий .
90% предприятий используют открытые платформы или программное обеспечение
В своей вступительной речи г-н Ву Тхе Бинь, вице-президент и генеральный секретарь Вьетнамской ассоциации Интернета, подчеркнул важность открытой инфраструктуры и открытого исходного кода в процессе национальной цифровой трансформации.
Г-н Бинь отметил, что в условиях стремительных изменений в глобальных технологиях открытая инфраструктура продолжает развиваться как основа для инноваций, поскольку более 90% предприятий используют открытые платформы или программное обеспечение во многих формах.
Согласно опросу Red Hat (2024), 82% лидеров в сфере технологий считают открытые платформы и программное обеспечение ключевым фактором цифровой трансформации и ускорения инноваций. Такие платформы, как Kubernetes, OpenStack, Linux, Ceph и OpenTelemetry, играют всё более важную роль в работе систем искусственного интеллекта, Интернета вещей, сетей 5G/6G и облачных технологий.
«10 лет назад облако можно было принять за облака в небе, а открытый исходный код звучал как „секрет боевых искусств“. Но сегодня мы здесь, взаимодействуем с глобальным сообществом открытой инфраструктуры в более чем 180 странах, вместе превращая строки кода в движущую силу инноваций», — поделился г-н Ву Тхе Бинь.
Чат-бот на основе искусственного интеллекта — «узкая дверь» для проникновения хакеров в систему
«В настоящее время многие компании активно используют эффективность открытых, адаптивных платформ, интегрирующих такие системы, как чат-боты на основе искусственного интеллекта, для повышения производительности труда и улучшения пользовательского опыта.
Также отсюда берут начало многие методы атак на модели ИИ, включая атаки по «отражению контента», предупредил г-н Дао Вьет Хунг, директор Akamai Technologies Vietnam.
Он отметил, что вьетнамские компании, внедряющие ИИ, по-прежнему мало что знают об этой форме атак.
Соответственно, злоумышленники используют метод постоянного запроса и повторного обучения модели ИИ ложной информации, вызывая информационное «отравление».
Если информация в облачной системе была «заражена», не обнаружена и продолжает использоваться, она будет предоставлять неверную информацию или использовать эту уязвимость для проникновения в базу данных с целью получения информации.
Г-н Дао Вьет Хунг, директор представительства Akamai Technologies во Вьетнаме. Фото: CHI HIEU
Г-н Дао Вьет Хунг привел редкую историю, когда система онлайн-продаж чат-бота автомобильной компании была убеждена продать новый автомобиль всего за 1 доллар.
Причина в том, что в процессе обмена и переговоров с чат-ботом этот клиент нашел способ «проникнуть» в базу данных и убедить чат-бот согласиться на вышеуказанный запрос.
Другой пример — хакеры успешно получили все конфиденциальные документы и организационные схемы компании, просто составив соответствующие вопросы и отправив их внутреннему чат-боту на базе искусственного интеллекта.
Г-н Дао Вьет Хунг поделился решением по обеспечению безопасности на основе ИИ, позволяющим самому ИИ защищать ИИ. Эту форму используют многие крупные предприятия в мире .
При использовании этого метода безопасности сохраненные данные интегрируют несколько уровней защиты, что затрудняет их «заражение».
Система безопасности на основе искусственного интеллекта может определить, какая информация является безопасной, а какая несет потенциальные риски атаки, на основании чего будет разработан быстрый и соответствующий план действий...
Источник: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Комментарий (0)