Ізраїль: Попередження: помічники зі штучним інтелектом можуть стати зловмисними агентами для атак на користувачів

Ізраїль щойно повідомив про виявлення вразливості Zero Click у ChatGPT, яка може дозволити хакерам контролювати дані та розмови без відома користувачів, що загрожує безпеці мережі.

Ізраїльська компанія з кібербезпеки Zenity виявила першу в історії вразливість «Zero Click» у сервісі ChatGPT від OpenAI. Цей тип атаки не вимагає від користувачів виконання будь-яких дій, таких як натискання на посилання, відкриття файлу чи будь-яка запланована взаємодія, але все одно може отримати доступ до облікових записів та витік конфіденційних даних.

За словами репортера VNA з Тель-Авіва, пан Михайло Бергорі, співзасновник і технічний директор Zenity, безпосередньо пояснив, як хакеру потрібна лише адреса електронної пошти користувача, щоб повністю контролювати розмови – включаючи минулий і майбутній контент, змінювати мету розмови і навіть контролювати ChatGPT, щоб він діяв відповідно до побажань хакера.

У своїй презентації дослідники показали, що скомпрометований ChatGPT можна перетворити на «зловмисника», який може приховано діяти проти користувачів. Хакери можуть змусити чат-бота пропонувати користувачам завантажувати заражене вірусами програмне забезпечення, надавати оманливі бізнес-поради або отримувати доступ до файлів, що зберігаються на Google Диску, якщо обліковий запис користувача підключено.

Весь процес відбувався без відома користувача. Уразливість була повністю виправлена ​​лише після того, як Zenity повідомила OpenAI.

Окрім ChatGPT, Zenity також продемонструвала аналогічні атаки на інші популярні платформи помічників зі штучним інтелектом. У Copilot Studio від Microsoft дослідники виявили, як витікати цілі бази даних CRM.

Для Salesforce Einstein хакери можуть створювати фальшиві запити на обслуговування, щоб перенаправляти всі повідомлення клієнтів на адреси електронної пошти, які вони контролюють.

Google Gemini та Microsoft 365 Copilot також були перетворені на «ворожих дійових осіб», які здійснюють фішингові атаки та витікають конфіденційну інформацію через електронні листи та події календаря.

В іншому прикладі інструмент розробки програмного забезпечення Cursor, інтегрований з Jira MCP, також використовувався для крадіжки облікових даних розробника за допомогою підроблених «квитків».

Zenity заявила, що деякі компанії, такі як OpenAI та Microsoft, швидко випустили патчі після отримання попередження. Однак інші відмовилися вирішувати проблему, стверджуючи, що така поведінка була «особливістю дизайну», а не вразливістю безпеки.

За словами Михайла Бергорі, найбільший виклик зараз полягає в тому, що помічники зі штучним інтелектом не просто виконують прості завдання, а стають «цифровими сутностями», що представляють користувачів – здатні відкривати папки, надсилати файли та отримувати доступ до електронної пошти. Він попередив, що це схоже на «рай» для хакерів, з такою кількістю точок експлуатації.

Бен Калігер, співзасновник і генеральний директор Zenity, наголосив, що дослідження компанії показують, що сучасні методи безпеки більше не підходять для того, як працюють помічники зі штучним інтелектом. Він закликав організації змінити свій підхід та інвестувати в спеціалізовані рішення, щоб мати змогу контролювати та відстежувати діяльність цих «агентів».

Компанію Zenity було засновано у 2021 році. Наразі в компанії працює близько 110 співробітників по всьому світу, 70 з яких працюють в офісі в Тель-Авіві. Серед клієнтів Zenity є багато компаній зі списків Fortune 100 і навіть Fortune 5.

(TTXVN/В'єтнам+)

Джерело: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp