PromptLock – первая программа-вымогатель на базе искусственного интеллекта: опасный поворот в кибербезопасности

PromptLock — первый вирус-вымогатель, полностью управляемый искусственным интеллектом, — демонстрирует потенциал автоматизации всего процесса кибератаки. Опасный поворотный момент в современной эпохе кибербезопасности.

Группа инженеров Нью-Йоркского университета приступила к разработке исследовательской работы о взаимодействии искусственного интеллекта и программ-вымогателей. Однако всего за неделю им удалось создать прототип полноценной атаки с использованием ИИ-вымогателей, повергнув мир кибербезопасности в шок.

Когда ИИ становится запиской с требованием выкупа, PromptLock не только шифрует данные, но и создает персонализированные записки с требованием выкупа. (Источник: MSN)

Атака вирусов-вымогателей, полностью основанная на искусственном интеллекте

Система искусственного интеллекта, разработанная командой Нью-Йоркского университета, может выполнять все четыре этапа атаки программ-вымогателей:

• Создание вредоносного ПО с использованием языка Lua, настроенного в соответствии с конфигурацией компьютера жертвы.
• Сканирование ИТ-систем для выявления особо ценных файлов
• Шифрование данных
• Напишите персонализированные письма с требованием выкупа на основе информации о пользователе

В отличие от традиционных программ-вымогателей, этот ИИ атакует только определённые файлы, что затрудняет его обнаружение. При каждом запуске вредоносная программа генерируется по-разному (полиморфно), что позволяет ей избегать распознавания антивирусными программами.

«Он нацелен на несколько файлов, поэтому его гораздо сложнее обнаружить. Более того, атака крайне персонализирована. Она полиморфна, поэтому каждый раз, когда вы запускаете её на разных системах или даже несколько раз на одной и той же, сгенерированный код никогда не будет одинаковым», — объясняет аспирант исследовательской группы Мд Раз.

Хотя это был всего лишь контролируемый эксперимент, он показал, как ИИ может быть использован для создания более сложных кибератак. Эксперты предупреждают, что в недобрых руках эта технология может нанести серьёзный ущерб организациям и частным лицам.

PromptLock: вирус-вымогатель 3.0 в эпоху искусственного интеллекта

Чтобы лучше понять природу и механизм работы этой системы, нам необходимо изучить PromptLock — первую в мире программу-вымогатель, полностью контролируемую искусственным интеллектом.

PromptLock использует большую языковую модель OpenAI gpt-oss:20b, развёрнутую через API Ollama. Вместо загрузки всей гигабайтной модели система просто подключается к серверу, на котором она запущена, и генерирует вредоносное ПО на языке Lua в режиме реального времени.

Словацкая компания ESET, специализирующаяся на кибербезопасности, подтвердила, что PromptLock — это PoC, но предупредила, что его фактическое применение может иметь серьёзные последствия. Индикаторы атаки (IoC) постоянно меняются от запуска атаки, что затрудняет её обнаружение и сдерживание.

Даже другие системы искусственного интеллекта, такие как Claude, ChatGPT, GitHub Copilot, подвергаются атакам с использованием методов «быстрого внедрения», когда злоумышленники обманом заставляют ИИ выполнять незаконные действия, например удалять файлы, кражу данных или совершать финансовые транзакции.

Благодаря ИИ: для запуска всего цикла атаки программы-вымогателя достаточно одной команды на естественном языке. (Источник: Thehackernews)

«Хотя это был всего лишь прототип, система была достаточно сложной, чтобы убедить экспертов по кибербезопасности в том, что это настоящее вредоносное ПО», — заявил Мд Раз, ведущий автор исследования PromptLock. Это показывает, что ИИ достиг уровня, на котором он может автоматизировать атаки без вмешательства человека.

Минь Хоан

Источник: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html