Помимо негативного воздействия на окружающую среду и ресурсы, искусственный интеллект (ИИ) быстро становится инструментом высокого риска в области кибербезопасности. В качестве доказательства компания OALABS Research недавно раскрыла случай, когда хакер-любитель из Эфиопии использовал агентов ИИ от Claude и OpenAI Codex для проведения серии кибератак.
Несмотря на то, что команда содержала множество орфографических и грамматических ошибок и лишь расплывчатые инструкции, этому человеку удалось взломать множество частных серверов. Этот хакер проник в защищенные данные как минимум 14 компаний и даже планировал украсть криптовалюту на сумму 4 миллиона долларов.

Хакеры-любители использовали Клода и Кодекс для атаки на 14 предприятий.
Хакеры и их тактика использования искусственного интеллекта для обхода системных барьеров.
Злоумышленники довольно легко обошли надежные меры безопасности модели Claude Opus с помощью психологического манипулирования. Выдавая себя за сотрудников, изучающих уязвимости в системе безопасности, хакеры обманом заставили чат-бота с искусственным интеллектом автоматически предоставить весь исходный код атаки. Система даже подробно описала методы эксплуатации, такие как вымогательство, продажа данных, и прямо указала, как украсть данные. Этот чат-бот заблокировал только один запрос, который был целенаправленно нацелен на личные цифровые аккаунты конкретной семьи.
Этот необычный инцидент был полностью раскрыт после того, как жертва, чей сервер был взломан, связалась с экспертами OALABS . Примечательно, что личность молодого хакера была раскрыта просто потому, что он ранее просил ИИ отредактировать свой личный профиль. Инцидент вызвал серьезную обеспокоенность по поводу легкого доступа общественности к этим мощным технологическим инструментам без необходимости специальных знаний. Пользователи могли легко использовать другого ИИ-посредника для составления аналогичных опасных команд атаки.
В настоящее время такие технологические гиганты, как Anthropic и OpenAI, зашли в тупик в поиске окончательного решения для предотвращения подобных атак. Ужесточение ограничений модели напрямую лишит настоящих исследователей в области безопасности возможности укрепить систему. И наоборот, сохранение статус-кво оставит грань между этичным использованием и незаконной выгодой непреодолимым препятствием для ИИ. Поиск оптимального решения для предотвращения злонамеренных действий пользователей остается нерешенной задачей.
Согласно газете «Тхань Ньен»,
Источник: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










