Google вызвала споры, отказавшись исправить уязвимость безопасности Gemini

VHO — Ошибка в инструменте Gemini AI подвергает пользователей риску утечки конфиденциальной информации, но Google заявила, что это не ошибка безопасности и не планирует ее исправлять.

Компания Google подверглась критике после отказа исправить серьёзную уязвимость в Gemini, инструменте искусственного интеллекта (ИИ), глубоко интегрированном в экосистему Google Workspace. По мнению экспертов по безопасности, эта уязвимость может привести к утечке конфиденциальной информации пользователей в результате атаки, известной как «контрабанда ASCII».

Источник изображения: Android Authority.

Gemini уязвимы для кода, скрытого в тексте

Исследователь безопасности Виктор Маркопулос протестировал несколько популярных больших языковых моделей (LLM) на устойчивость к этой атаке. Результаты показали, что Gemini, DeepSeek и Grok оказались уязвимы, в то время как ChatGPT, Claude и Copilot оказались более защищенными.

Подмена ASCII-кода — это форма атаки, при которой злоумышленник скрывает код подсказки или команды в тексте, часто очень маленького размера или особым образом закодированном. Когда пользователь просит ИИ обобщить или проанализировать содержимое, содержащее этот скрытый код, ИИ-инструмент случайно считывает и выполняет вредоносную подсказку без ведома пользователя.

Риск утечки конфиденциальных данных в Google Workspace

Учитывая, что Gemini напрямую интегрирован в сервисы Gmail, Docs и Google Workspace, этот риск становится особенно тревожным: скрытая подсказка может заставить ИИ автоматически искать личную информацию, контактные данные или конфиденциальные документы, а затем отправлять их из системы без ведома пользователя.

Маркопулос связался с Google, чтобы представить свои выводы, и даже проиллюстрировал их с помощью невидимого фрагмента кода, который побудил Gemini поделиться ссылкой на вредоносный веб-сайт только для того, чтобы «получить телефон со скидкой».

Google отрицает, что это уязвимость безопасности

В опубликованном ответе Google заявила, что это не уязвимость безопасности, а форма атаки с использованием социальной инженерии. Другими словами, компания посчитала это ошибкой, вызванной неосторожным взаимодействием пользователя, а не проблемой своей системы искусственного интеллекта.

Этот ответ говорит о том, что Google не планирует выпускать патч для Gemini в ближайшем будущем, а это значит, что пользователям следует быть более осторожными при использовании ИИ для обработки документов, особенно тех, которые содержат конфиденциальную информацию или поступают из непроверенных источников.

Растут опасения по поводу безопасности глубоко интегрированного ИИ

Инцидент поднимает вопросы об ответственности технологических компаний в условиях, когда ИИ всё больше интегрируется в рабочие и коммуникационные платформы. Хотя Google подчёркивает свою приверженность «безопасности пользователей», это решение может повлиять на доверие к безопасности Gemini, особенно в корпоративной среде.

По данным Android Authority

Источник: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html