Серьезная уязвимость ChatGPT и ряда помощников на основе искусственного интеллекта: пользователи обманываются, происходит утечка информации...

Используя эту уязвимость, хакеры могут заставить ChatGPT предлагать пользователям загружать вируссодержащее программное обеспечение, давать ложные деловые советы и даже получать доступ к файлам на Google Диске...

Уязвимость «Zero Click» позволяет хакерам даже контролировать ChatGPT и действовать по своему усмотрению. Иллюстрация: AFP

Израильская компания по кибербезопасности Zenity раскрыла первую уязвимость «Zero Click», обнаруженную в сервисе OpenAI ChatGPT.

Этот тип атаки не требует от пользователя выполнения каких-либо действий, таких как нажатие ссылки, открытие файла или участие в каком-либо преднамеренном взаимодействии, но все равно может привести к получению доступа к учетным записям и утечке конфиденциальных данных.

Михаил Бергори, соучредитель и главный технический директор Zenity, продемонстрировал на собственном опыте, как хакер, имея всего лишь адрес электронной почты пользователя, может получить полный контроль над разговорами, включая их прошлый и будущий контент, изменить цель разговора и даже манипулировать ChatGPT, чтобы он действовал в соответствии с желаниями хакера.

В своей презентации исследователи продемонстрировали, что взломанный ChatGPT может стать «вредоносным инструментом», тайно действующим против пользователей. Хакеры могут заставить ChatGPT предлагать пользователям загружать вирусное ПО, давать вводящие в заблуждение бизнес-консультации или получать доступ к файлам, хранящимся на Google Диске, если учётная запись пользователя подключена. Всё это происходит без его ведома.

Уязвимость была полностью устранена только после того, как Zenity уведомила OpenAI.

Помимо ChatGPT, Zenity также демонстрировала аналогичные атаки на другие популярные платформы с искусственным интеллектом. В Copilot Studio от Microsoft исследователи обнаружили способ утечки целых баз данных CRM.

В компании Salesforce Einstein хакеры могут создавать поддельные запросы на обслуживание, чтобы перенаправлять все сообщения клиентов на подконтрольные им адреса электронной почты.

Google Gemini и Microsoft 365 Copilot также были превращены во «враждебных участников», осуществляющих фишинговые атаки и утечку конфиденциальной информации через электронные письма и события календаря.

В другом примере инструмент разработки программного обеспечения Cursor при интеграции с Jira MCP также использовался для кражи учетных данных разработчика с помощью поддельных «тикетов».

Zenity заявила, что некоторые компании, такие как OpenAI и Microsoft, быстро выпустили исправления после получения предупреждений. Однако другие отказались решать проблему, утверждая, что это «особенность дизайна», а не уязвимость безопасности.

По словам Михаила Бергори, главная проблема сейчас заключается в том, что ИИ-помощники не просто выполняют простые задачи, а становятся «цифровыми сущностями», представляющими пользователей, способными открывать папки, отправлять файлы и получать доступ к электронной почте. Он предупредил, что это настоящий «рай» для хакеров, с таким количеством возможностей для эксплуатации.

Соучредитель и генеральный директор Zenity Бен Калигер заявил, что исследования компании показывают, что существующие методы безопасности больше не подходят для работы ИИ-помощников. Он призвал организации изменить свой подход и инвестировать в специализированные решения для контроля и мониторинга действий этих «агентов».

Компания Zenity была основана в 2021 году. В настоящее время в ней работает около 110 сотрудников по всему миру, 70 из которых работают в офисе в Тель-Авиве. Среди клиентов Zenity — многие компании из списка Fortune 100 и даже Fortune 5.

Вернуться к теме

ВНА

Source: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm