Уязвимость безопасности Microsoft Copilot: новое предупреждение о риске утечки данных ИИ

Серьёзная уязвимость безопасности Microsoft Copilot позволяет украсть данные пользователей без каких-либо действий. Этот инцидент поднимает важный вопрос: помогает ли нам искусственный интеллект или подвергает риску?

EchoLeak и потенциальные риски, связанные с искусственным интеллектом.

Поскольку искусственный интеллект (ИИ) становится неотъемлемой частью каждой задачи, от помощи в составлении отчетов и ответах на электронные письма до анализа данных, пользователи, кажется, живут в эпоху беспрецедентного удобства. Но начинают проявляться и обратная сторона этого удобства, особенно в вопросах безопасности.

Недавняя уязвимость в системе безопасности, получившая название EchoLeak, поставила пользователей сервиса Microsoft Copilot под угрозу утечки конфиденциальных данных без необходимости каких-либо действий с их стороны.

Когда ИИ становится уязвимостью для системы безопасности

Согласно расследованию издания Tuoi Tre Online , EchoLeak — это недавно выявленная уязвимость безопасности с кодом CVE-2025-32711, которую эксперты оценили как опасную на 9,3/10 по шкале NIST.

Экспертов по безопасности беспокоит его "бесконтактный" характер: злоумышленники могут использовать данные из Copilot без каких-либо действий со стороны пользователя, открытия файлов или даже без его ведома.

Это не просто ошибка. Исследовательская группа Aim Labs, обнаружившая уязвимость, считает, что EchoLeak отражает распространенный недостаток проектирования в системах и агентах искусственного интеллекта, основанных на RAG (восстановление с помощью дополненной реальности). Поскольку Copilot является частью пакета приложений Microsoft 365, в котором хранятся электронные письма, документы, электронные таблицы и календари встреч миллионов пользователей, риск утечки данных очень серьезен.

Проблема заключается не только в конкретном фрагменте кода, но и в том, как работают языки больших моделей (LLM). Искусственному интеллекту требуется много контекста для предоставления точных ответов, и поэтому ему предоставляется доступ к огромным объемам фоновых данных. Без четкого контроля над потоком ввода-вывода ИИ может быть полностью манипулирован без ведома пользователя. Это создает новый вид «бэкдора», не из-за уязвимости в коде, а потому что ИИ ведет себя за пределами человеческого понимания.

Microsoft оперативно выпустила патч, и на данный момент никаких реальных потерь не зафиксировано. Но урок, извлеченный из утечки EchoLeak, очевиден: когда ИИ глубоко интегрирован в рабочие системы, даже небольшая ошибка в понимании контекста может привести к серьезным последствиям для безопасности.

Чем удобнее становится искусственный интеллект, тем более уязвимыми становятся персональные данные.

Инцидент с EchoLeak поднимает тревожный вопрос: не слишком ли пользователи доверяют искусственному интеллекту, не осознавая, что их могут отследить или раскрыть их личную информацию всего лишь после одного сообщения? Недавно обнаруженная уязвимость, позволяющая хакерам незаметно извлекать данные без нажатия пользователем каких-либо кнопок, когда-то казалась чем-то из научной фантастики, но теперь стала реальностью.

Несмотря на растущую популярность приложений искусственного интеллекта, от виртуальных помощников, таких как Copilot, и чат-ботов в банковской сфере и образовании , до платформ ИИ для написания контента и обработки электронной почты, большинство людей не предупреждаются о том, как обрабатываются и хранятся их данные.

Общение с системой искусственного интеллекта уже не сводится к отправке нескольких удобных вопросов; оно может непреднамеренно раскрыть ваше местоположение, привычки, эмоции или даже информацию об учетной записи.

Во Вьетнаме многие люди знакомы с использованием ИИ на своих телефонах и компьютерах, не имея базовых знаний в области цифровой безопасности . Многие делятся личной информацией с ИИ, полагая, что «это всего лишь машина». Однако в действительности за ним скрывается система, способная записывать, обучаться и передавать данные в другие места, особенно если платформа ИИ создана третьей стороной и не прошла тщательную проверку на безопасность.

Для снижения рисков пользователям не обязательно отказываться от технологий, но им необходимо проявлять большую бдительность: им следует тщательно проверять, поступают ли используемые ими приложения ИИ из надежного источника, зашифрованы ли данные, и особенно, им не следует без четкого предупреждения передавать конфиденциальную информацию, такую ​​как идентификационные номера, банковские реквизиты, информацию о состоянии здоровья и т. д., любой системе ИИ.

Как и в случае с появлением интернета, искусственному интеллекту тоже нужно время, чтобы созреть, и в течение этого времени пользователи должны в первую очередь активно защищать себя.

Вы когда-нибудь делились с искусственным интеллектом слишком большим количеством информации?

Когда люди вводят команды типа «перепишите этот отчет, но более деликатно» или «подведите итоги вчерашнего совещания», они не осознают, что вся вводимая ими информация, включая внутренние детали, личные чувства или рабочие привычки, может быть записана искусственным интеллектом. Мы привыкаем взаимодействовать с интеллектуальными инструментами, забывая о границе между удобством и конфиденциальностью.

Вернемся к теме.

ТУАН ВИ

Источник: https://tuoitre.vn/lo-hong-bao-mat-trong-microsoft-copilot-canh-bao-moi-ve-nguy-co-ro-ri-du-lieu-tu-ai-20250620103045262.htm