Ця вразливість дозволяє зловмисникам впроваджувати шкідливі команди безпосередньо в пам'ять штучного інтелекту, перетворюючи корисну функцію на постійну зброю для виконання довільного коду (ілюстративне зображення: ST).
Згідно зі звітом LayerX Security, ця атака використовувала вразливість Cross-Site Request Forgery (CSRF) для впровадження шкідливих команд у постійну пам'ять ChatGPT.
Функція «Пам’ять», спочатку розроблена для того, щоб штучний інтелект запам’ятовував корисні деталі, такі як імена користувачів та налаштування для персоналізованих відповідей, тепер може бути «зламана».
Після зараження пам’яті шкідливим програмним забезпеченням ці команди залишатимуться назавжди — якщо користувач не видалить їх вручну через налаштування — і можуть бути запущені на кількох пристроях і під час кількох сеансів.
«Цю вразливість робить особливо небезпечною те, що вона націлена на постійну пам’ять штучного інтелекту, а не лише на сеанс браузера», – сказала Мішель Леві, директор з досліджень безпеки в LayerX Security.
Леві пояснив: «Простіше кажучи, зловмисник використовує трюк, щоб «обдурити» штучний інтелект, змушуючи його записати шкідливу команду в пам’ять. Найнебезпечніше те, що ця команда назавжди залишиться в ШІ – навіть якщо користувач перемикає комп’ютери, виходить із системи та знову входить у систему, або навіть використовує інший браузер».
Пізніше, коли користувач робить цілком звичайний запит, він може ненавмисно активувати шкідливе програмне забезпечення. В результаті хакери можуть приховано запускати код, красти дані або отримувати вищий контроль над системою.
Описаний сценарій атаки досить простий: спочатку користувач входить до ChatGPT Atlas. Його обманом змушують натиснути на шкідливе посилання, потім шкідливий веб-сайт таємно запускає CSRF-запит, непомітно вставляючи шкідливі інструкції в пам'ять ChatGPT жертви.
Зрештою, коли користувач робить цілком законний запит, наприклад, просить ШІ написати код, заражені «спогади» будуть активовані.
LayerX зазначає, що проблема посилюється відсутністю в ChatGPT Atlas надійних засобів захисту від фішингу.
У тестах, що охоплювали понад 100 вразливостей та фішингових сайтів, Atlas вдалося заблокувати лише 5,8% шкідливих вебсайтів.
Цей показник надто скромний порівняно з Google Chrome (47%) або Microsoft Edge (53%), що робить користувачів Atlas «до 90% більш вразливими» до атак порівняно з традиційними браузерами.
Це відкриття є результатом ще однієї вразливості швидкого впровадження шкідливого програмного забезпечення, яку раніше продемонструвала NeuralTrust, показуючи, що браузери зі штучним інтелектом стають новим фронтом атаки.
OpenAI запустила веббраузер ChatGPT Atlas на початку минулого тижня. Не дивно, що OpenAI інтегрувала свій механізм штучного інтелекту ChatGPT у цей браузер, забезпечуючи кращу підтримку для користувачів під час перегляду веб-сторінок.
Щоразу, коли користувач натискає на результат пошуку в ChatGPT Atlas, поруч із вікном веб-сторінки з’являється діалогове вікно ChatGPT, що дозволяє користувачеві ставити запитання, пов’язані з перегляданим вмістом, заощаджуючи час на читання.
ChatGPT також може підсумовувати вміст веб-сайту, редагувати текст під час написання електронних листів або пропонувати способи його переписування, щоб краще відповідати контексту.
Джерело: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
Коментар (0)