Дані користувачів ChatGPT Atlas можуть бути викрадені за допомогою «постійного» шкідливого програмного забезпечення

(Ден Трі) - Щойно було виявлено серйозну вразливість безпеки в браузері ChatGPT Atlas від OpenAI на базі штучного інтелекту.

Ця вразливість дозволяє зловмисникам впроваджувати шкідливі команди у власну пам'ять штучного інтелекту, перетворюючи корисну функцію на постійну зброю для запуску довільного коду (ілюстраційне фото: ST).

Згідно зі звітом LayerX Security, ця атака використовує вразливість міжсайтової підробки запитів (CSRF) для впровадження шкідливих команд у постійну пам'ять ChatGPT.

Функцію «Пам’ять», яка була розроблена для того, щоб штучний інтелект запам’ятовував корисні деталі, такі як імена користувачів та вподобання, для персоналізації відповідей, тепер можна «зламати».

Після зараження пам’яті ці команди залишатимуться назавжди – якщо користувач вручну не перейде до налаштувань, щоб видалити їх – і можуть бути запущені на кількох пристроях і сеансах.

«Цю вразливість робить особливо небезпечною те, що вона націлена на постійну пам’ять штучного інтелекту, а не лише на сеанс браузера», – сказала Мішель Леві, директорка з досліджень безпеки в LayerX Security.

«Простими словами, зловмисник використовує трюк, щоб «обдурити» штучний інтелект і змусити його записати шкідливу команду в свою пам’ять», – пояснює Леві. «Найнебезпечніше те, що ця команда залишається в штучному інтелекті назавжди – навіть якщо користувач змінює комп’ютер, виходить із системи та знову входить у неї або навіть використовує інший браузер».

Пізніше, коли користувач робить цілком звичайний запит, він може випадково запустити шкідливий код. В результаті хакери можуть запускати код у фоновому режимі, красти дані або отримувати вищий контроль над системою.

Описаний сценарій атаки досить простий: спочатку користувач входить до ChatGPT Atlas. Його обманом змушують натиснути на шкідливе посилання, після чого шкідливий сайт таємно запускає CSRF-запит, непомітно вводячи шкідливі інструкції в пам'ять ChatGPT жертви.

Зрештою, коли користувач робить цілком легітимний запит, наприклад, просить ШІ написати код, спрацьовують зіпсовані «спогади».

Проблема посилюється відсутністю в ChatGPT Atlas потужних засобів захисту від фішингу, зазначає LayerX.

У тестах з понад 100 експлойтами та фішинговими сайтами Atlas заблокував лише 5,8% шкідливих сайтів.

Це число занадто скромне порівняно з Google Chrome (47%) або Microsoft Edge (53%), що робить користувачів Atlas «до 90% більш вразливими» до атак, ніж традиційні браузери.

Це відкриття є результатом ще однієї вразливості швидкого впровадження шкідливого програмного забезпечення, яку раніше продемонструвала NeuralTrust, що свідчить про те, що браузери зі штучним інтелектом стають новим фронтом атаки.

Веббраузер ChatGPT Atlas був запущений OpenAI на початку минулого тижня. Не дивно, що OpenAI інтегрувала інструмент штучного інтелекту ChatGPT у цей браузер, допомагаючи краще підтримувати користувачів під час перегляду веб-сторінок.

Щоразу, коли користувач натискає на результат пошуку в ChatGPT Atlas, поруч із вікном веб-сторінки з’являється діалогове вікно ChatGPT, що дозволяє йому ставити запитання, пов’язані з контентом, який він переглядає, заощаджуючи час на читання.

ChatGPT також може підсумовувати вміст веб-сторінок, редагувати текст під час написання електронного листа або пропонувати його переписування, щоб краще відповідати контексту.

Джерело: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm