Серйозна вразливість у ChatGPT та серії помічників зі штучним інтелектом: користувачів обманюють, відбувається витік інформації...

Завдяки цій вразливості хакери можуть змусити ChatGPT пропонувати користувачам завантажувати програмне забезпечення, що містить віруси, давати неправдиві бізнес-поради, навіть отримувати доступ до файлів на Google Диску...

Уразливість «Zero Click» навіть дозволяє хакерам контролювати ChatGPT, щоб він діяв так, як вони хочуть – Фото ілюстрації: AFP

Ізраїльська компанія з кібербезпеки Zenity щойно виявила першу вразливість «Zero Click», виявлену в сервісі ChatGPT від OpenAI.

Цей тип атаки не вимагає від користувачів виконання будь-яких дій, таких як натискання на посилання, відкриття файлу або будь-яка навмисна взаємодія, але все одно може отримати доступ до облікових записів та витік конфіденційних даних.

Михайло Бергорі, співзасновник і технічний директор Zenity, на власні очі продемонстрував, як хакер, маючи лише адресу електронної пошти користувача, може отримати повний контроль над розмовами – включаючи минулий і майбутній контент, змінити мету розмови і навіть маніпулювати ChatGPT, щоб діяти на користь хакера.

У своїй презентації дослідники показали, що скомпрометований ChatGPT можна перетворити на «зловмисника», який таємно діє проти користувачів. Хакери можуть змусити ChatGPT пропонувати користувачам завантажувати заражене вірусами програмне забезпечення, надавати оманливі бізнес-поради або отримувати доступ до файлів, що зберігаються на Google Диску, якщо обліковий запис користувача підключено. Все це відбувається без відома користувача.

Уразливість була повністю виправлена ​​лише після того, як Zenity повідомила OpenAI.

Окрім ChatGPT, Zenity також продемонструвала аналогічні атаки на інші популярні платформи помічників зі штучним інтелектом. У Copilot Studio від Microsoft дослідники виявили спосіб витоку цілих баз даних CRM.

Для Salesforce Einstein хакери можуть створювати фальшиві запити на обслуговування, щоб перенаправляти всі повідомлення клієнтів на адреси електронної пошти, що знаходяться під їхнім контролем.

Google Gemini та Microsoft 365 Copilot також перетворилися на «ворожих дійових осіб», які здійснюють фішингові атаки та витікають конфіденційну інформацію через електронні листи та події календаря.

В іншому прикладі інструмент розробки програмного забезпечення Cursor, інтегрований з Jira MCP, також використовувався для крадіжки облікових даних розробника за допомогою підроблених «квитків».

Zenity заявила, що деякі компанії, такі як OpenAI та Microsoft, швидко випустили патчі після отримання попередження. Однак інші відмовилися вирішувати проблему, стверджуючи, що така поведінка була «особливістю дизайну», а не вразливістю безпеки.

За словами Михайла Бергорі, найбільший виклик зараз полягає в тому, що помічники зі штучним інтелектом не просто виконують прості завдання, а стають «цифровими сутностями», що представляють користувачів – здатні відкривати папки, надсилати файли та отримувати доступ до електронної пошти. Він попередив, що це схоже на «рай» для хакерів, з такою кількістю точок експлуатації.

Бен Калігер, співзасновник і генеральний директор Zenity, наголосив, що дослідження компанії показують, що сучасні методи безпеки більше не підходять для того, як працюють помічники зі штучним інтелектом. Він закликав організації змінити свій підхід та інвестувати в спеціалізовані рішення, щоб мати змогу контролювати та відстежувати діяльність цих «агентів».

Компанію Zenity було засновано у 2021 році. Наразі в ній працює близько 110 співробітників по всьому світу, 70 з яких працюють в офісі в Тель-Авіві. Серед клієнтів Zenity є багато компаній зі списків Fortune 100 і навіть Fortune 5.

Повернутися до теми

ВНА

Джерело: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm