Хакеры могут получить конфиденциальную информацию компании, «поговорив» с ИИ-чат-ботом

По словам экспертов в области технологий, используя ряд сложных подсказок, хакеры могут проникнуть в «конфиденциальную» базу данных компании, не будучи обнаруженными.

Обзор мероприятия OpenInfra & Cloud Native Day Vietnam 2025 на тему «Эра цифрового прорыва Вьетнама» — Фото: CHI HIEU

Искусственный интеллект (ИИ) приносит много пользы, особенно сейчас, когда его внедряют многие компании для обслуживания конечных пользователей, таких как сотрудники компании, клиенты... С этого момента интегрированные с ИИ системы чат-ботов могут стать «узкой дверью», позволяющей хакерам атаковать и красть информацию из систем хранения данных.

«В настоящее время существует множество методов атак на модели ИИ, наиболее распространенным из которых является «отравление контента», которое, по-видимому, «невидимо» для традиционных систем защиты информации», — предупредил г-н Дао Вьет Хунг, директор Akamai Technologies Vietnam, на мероприятии OpenInfra & Cloud Native Day Vietnam 2025, которое состоялось 26 июля в Ханое .

Мероприятие было организовано Ассоциацией Интернета Вьетнама (VIA) совместно с Сообществом открытой инфраструктуры Вьетнама (VietOpenInfra), Клубом облачных вычислений и центров обработки данных Вьетнама (VNCDC) при поддержке Министерства науки и технологий .

90% предприятий используют открытые платформы или программное обеспечение

В своей вступительной речи г-н Ву Тхе Бинь, вице-президент и генеральный секретарь Вьетнамской ассоциации Интернета, подчеркнул важность открытой инфраструктуры и открытого исходного кода в процессе национальной цифровой трансформации.

Г-н Бинь отметил, что в условиях стремительных изменений в глобальных технологиях открытая инфраструктура продолжает развиваться как основа для инноваций, поскольку более 90% предприятий используют открытые платформы или программное обеспечение во многих формах.

Согласно опросу Red Hat (2024), 82% лидеров в сфере технологий считают открытые платформы и программное обеспечение ключевым фактором цифровой трансформации и ускорения инноваций. Такие платформы, как Kubernetes, OpenStack, Linux, Ceph и OpenTelemetry, играют всё более важную роль в работе систем искусственного интеллекта, Интернета вещей, сетей 5G/6G, а также облачных технологий.

«10 лет назад облако можно было принять за облака в небе, а открытый исходный код звучал как „секрет боевых искусств“. Но сегодня мы здесь, взаимодействуем с глобальным сообществом открытой инфраструктуры в более чем 180 странах, вместе превращая строки кода в движущую силу инноваций», — поделился г-н Ву Тхе Бинь.

Чат-бот на основе искусственного интеллекта — «узкая дверь» для проникновения хакеров в систему

«В настоящее время многие компании активно используют эффективность открытых, адаптивных платформ, интегрирующих такие системы, как чат-боты на основе искусственного интеллекта, для повышения производительности труда и улучшения пользовательского опыта.

Также отсюда берут начало многие методы атак на модели ИИ, включая атаки по «отражению контента», предупредил г-н Дао Вьет Хунг, директор Akamai Technologies Vietnam.

Он отметил, что вьетнамские компании, внедряющие ИИ, по-прежнему мало что знают об этой форме атак.

Соответственно, злоумышленники используют метод постоянного запроса и повторного обучения модели ИИ ложной информации, вызывая информационное «отравление».

Если информация в облачной системе была «заражена», не обнаружена и продолжает использоваться, она будет выдавать неверную информацию или использовать эту уязвимость для проникновения в базу данных с целью получения информации.

Г-н Дао Вьет Хунг, директор представительства Akamai Technologies во Вьетнаме. Фото: CHI HIEU

Г-н Дао Вьет Хунг привел редкую историю, когда система онлайн-продаж чат-бота автомобильной компании была убеждена продать новый автомобиль всего за 1 доллар.

Причина в том, что в процессе обмена и переговоров с чат-ботом этот клиент нашел способ «проникнуть» в базу данных и убедить чат-бот согласиться на вышеуказанный запрос.

Другой пример — хакер успешно получил все конфиденциальные документы и организационные схемы компании, просто составив правильные вопросы и отправив их внутреннему чат-боту на базе искусственного интеллекта.

Г-н Дао Вьет Хунг, стремясь снизить этот риск, поделился решением по обеспечению безопасности на основе ИИ, позволяющим ИИ защищать ИИ. Эту форму используют многие крупные предприятия по всему миру .

При использовании этого метода безопасности сохраненные данные интегрируют несколько уровней защиты, что затрудняет их «заражение».

Система безопасности на основе искусственного интеллекта может определить, какая информация является безопасной, а какая несет потенциальные риски атаки, на основании чего у нее будет быстрый и соответствующий план действий...

Вернуться к теме

сыновняя почтительность

Источник: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm