Данные пользователей ChatGPT Atlas могут быть украдены с помощью «постоянного» вредоносного ПО

(Дэн Три) - В браузере ИИ ChatGPT Atlas компании OpenAI была обнаружена серьезная уязвимость безопасности.

Эта уязвимость позволяет злоумышленникам внедрять вредоносные команды в память искусственного интеллекта, превращая полезную функцию в постоянное оружие для запуска произвольного кода (иллюстрация на фото: ST).

Согласно отчету LayerX Security, эта атака использует уязвимость подделки межсайтовых запросов (CSRF) для внедрения вредоносных команд в постоянную память ChatGPT.

Функция «Память», которая была разработана для того, чтобы ИИ мог запоминать полезные данные, такие как имена пользователей и предпочтения, для персонализации ответов, теперь может быть «сломана».

После заражения памяти эти команды будут сохраняться постоянно (если только пользователь вручную не зайдет в настройки, чтобы удалить их), и могут быть запущены на нескольких устройствах и в нескольких сеансах.

«Эту уязвимость делает особенно опасной то, что она нацелена на постоянную память ИИ, а не только на сеанс браузера», — сказала Мишель Леви, директор по исследованиям безопасности в LayerX Security.

«Проще говоря, злоумышленник использует трюк, чтобы „обмануть“ ИИ и записать в его память вредоносную команду», — объясняет Леви. «Самое опасное заключается в том, что эта команда остаётся в памяти ИИ навсегда — даже если пользователь меняет компьютер, выходит из системы и снова входит в неё или даже использует другой браузер».

Позже, когда пользователь выполняет совершенно обычный запрос, он может случайно запустить вредоносный код. В результате хакеры могут запустить код в фоновом режиме, украсть данные или получить более высокий контроль над системой.

Описанный сценарий атаки довольно прост: сначала пользователь входит в ChatGPT Atlas. Его обманным путём заставляют перейти по вредоносной ссылке, после чего вредоносный сайт тайно инициирует CSRF-запрос, незаметно внедряя вредоносные инструкции в память ChatGPT жертвы.

Наконец, когда пользователь делает совершенно законный запрос, например, просит ИИ написать код, активируются испорченные «воспоминания».

LayerX отмечает, что проблема усугубляется отсутствием в ChatGPT Atlas эффективных мер по борьбе с фишингом.

В ходе тестов с участием более 100 эксплойтов и фишинговых сайтов Atlas заблокировал лишь 5,8% вредоносных сайтов.

Это число слишком скромно по сравнению с Google Chrome (47%) или Microsoft Edge (53%), что делает пользователей Atlas «на 90% более уязвимыми» для атак, чем традиционные браузеры.

Это открытие последовало за другой уязвимостью быстрого внедрения вредоносного ПО, ранее продемонстрированной NeuralTrust, что позволяет предположить, что браузеры с искусственным интеллектом становятся новым фронтом атак.

Веб-браузер ChatGPT Atlas был запущен компанией OpenAI в начале прошлой недели. Неудивительно, что OpenAI интегрировала в этот браузер инструмент искусственного интеллекта ChatGPT, что помогает пользователям лучше поддерживать работу в интернете.

Всякий раз, когда пользователь нажимает на результат поиска в ChatGPT Atlas, рядом с окном веб-страницы появляется диалоговое окно ChatGPT, позволяющее пользователю задавать вопросы, связанные с просматриваемым содержимым, что экономит время на чтение.

ChatGPT также может резюмировать содержимое веб-страницы, редактировать текст при составлении электронного письма или предлагать переписать его, чтобы лучше соответствовать контексту.

Источник: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm