Эта уязвимость позволяет злоумышленникам внедрять вредоносные команды непосредственно в память ИИ, превращая полезную функцию в постоянное оружие для выполнения произвольного кода (иллюстративное изображение: ST).
Согласно отчету LayerX Security, эта атака использовала уязвимость межсайтовой подделки запросов (CSRF) для внедрения вредоносных команд в постоянную память ChatGPT.
Функция «Память», изначально разработанная для того, чтобы ИИ запоминал полезные детали, такие как имена пользователей и предпочтения для персонализированных ответов, теперь может быть «нарушена».
После заражения памяти вредоносным ПО эти команды будут сохраняться постоянно — если пользователь не удалит их вручную через настройки — и могут запускаться на нескольких устройствах и в нескольких сессиях.
«Особую опасность этой уязвимости придает то, что она нацелена на постоянную память ИИ, а не только на сессию браузера», — заявила Мишель Леви, директор по исследованиям в области безопасности компании LayerX Security.
Леви пояснил: «Проще говоря, злоумышленник использует уловку, чтобы «обмануть» ИИ, заставляя его записать вредоносную команду в свою память. Самое опасное то, что эта команда останется в ИИ навсегда — даже если пользователь сменит компьютер, выйдет из системы и войдет снова, или даже воспользуется другим браузером».
Позже, когда пользователь отправляет совершенно обычный запрос, он может непреднамеренно активировать вредоносное ПО. В результате хакеры могут незаметно запускать код, красть данные или получать более высокий контроль над системой.
Описанный сценарий атаки довольно прост: сначала пользователь входит в ChatGPT Atlas. Его обманом заставляют перейти по вредоносной ссылке, после чего вредоносный веб-сайт тайно запускает CSRF-запрос, незаметно внедряя вредоносные инструкции в память ChatGPT жертвы.
Наконец, когда пользователь делает совершенно законный запрос, например, просит ИИ написать код, активируются зараженные «воспоминания».
Компания LayerX отмечает, что проблема усугубляется отсутствием в ChatGPT Atlas надежных средств защиты от фишинга.
В ходе тестирования, охватившего более 100 уязвимостей и фишинговых сайтов, Atlas удалось заблокировать лишь 5,8% вредоносных веб-сайтов.
Этот показатель слишком мал по сравнению с Google Chrome (47%) или Microsoft Edge (53%), что делает пользователей Atlas «до 90% более уязвимыми» для атак по сравнению с традиционными браузерами.
Это открытие последовало за еще одной уязвимостью, позволяющей быстро внедрять вредоносное ПО, ранее продемонстрированной NeuralTrust, что показывает, что браузеры с искусственным интеллектом становятся новым фронтом атак.
На прошлой неделе компания OpenAI выпустила веб-браузер ChatGPT Atlas. Неудивительно, что OpenAI интегрировала в этот браузер свой движок искусственного интеллекта ChatGPT, обеспечив тем самым лучшую поддержку пользователей при просмотре веб-страниц.
При каждом клике пользователя на результат поиска в ChatGPT Atlas рядом с окном веб-страницы появляется диалоговое окно ChatGPT, позволяющее задавать вопросы, связанные с просматриваемым контентом, что экономит время на чтение.
ChatGPT также может составлять краткое содержание веб-сайтов, редактировать текст при составлении электронных писем или предлагать способы его переписывания для лучшего соответствия контексту.
Источник: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Комментарий (0)