Окрім негативного впливу на довкілля та ресурси, штучний інтелект (ШІ) швидко стає високоризикованим інструментом у сфері кібербезпеки. Як доказ, нещодавнє дослідження OALABS Research викрило випадок, коли ефіопський хакер-аматор використовував агенти ШІ від Claude та OpenAI Codex для здійснення серії кібератак.
Незважаючи на те, що команда була сповнена орфографічних та граматичних помилок і пропонувала лише розпливчасті інструкції, ця особа успішно зламала численні приватні сервери. Цей хакер проник у захищені дані щонайменше 14 компаній і навіть планував викрасти криптовалюту на суму 4 мільйони доларів.

Хакери-аматори використали Клода та Кодекс для атаки на 14 підприємств.
Хакери та їхня тактика використання штучного інтелекту для обходу системних бар'єрів.
Зловмисники відносно легко обійшли надійні заходи безпеки моделі Claude Opus за допомогою психологічних маніпуляцій. Видаючи себе за учасників, які досліджують вразливості безпеки, хакери обманом змусили чат-бота на базі штучного інтелекту автоматично надати весь вихідний код атаки. Система навіть детально описала методи експлуатації, такі як вимагання, продаж даних, і безпосередньо вказувала, як викрасти дані. Цей чат-бот заблокував лише один запит, який навмисно був спрямований на особисті цифрові облікові записи певної родини.
Цей незвичайний інцидент став повністю викритим після того, як жертва, чий сервер був скомпрометований, звернулася до експертів OALABS . Примітно, що особу молодого хакера було розкрито лише тому, що він раніше просив штучний інтелект відредагувати свій особистий профіль. Інцидент викликав серйозну стурбованість щодо легкого доступу громадськості до цих потужних технологічних інструментів без необхідності спеціалізованих знань. Користувачі могли легко використовувати іншого посередника на основі штучного інтелекту для створення подібних небезпечних команд атаки.
Наразі такі технологічні гіганти, як Anthropic та OpenAI, перебувають у глухому куті у пошуку остаточного рішення для запобігання таким атакам. Зменшення обмежень моделі безпосередньо позбавить справжніх дослідників безпеки можливості зміцнити систему. І навпаки, збереження статус-кво залишить межу між етичним використанням та незаконним отриманням прибутку нездоланною перешкодою для ШІ. Пошук оптимального рішення для запобігання зловмисним намірам користувачів залишається невирішеною проблемою.
За даними газети Thanh Nien
Джерело: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










