PromptLock – перше програмне забезпечення-вимагач на базі штучного інтелекту: небезпечний поворот у кібербезпеці

PromptLock – перше програмне забезпечення-вимагач, повністю засноване на штучному інтелекті, – демонструє потенціал автоматизації всього процесу кібератак. Небезпечний поворотний момент в сучасну епоху кібербезпеки.

Команда інженерів з Нью-Йоркського університету вирішила розробити дослідницьку роботу про взаємозв'язок штучного інтелекту та програм-вимагачів. Але протягом тижня вони створили перевірочне бачення повноцінної атаки програм-вимагачів на основі штучного інтелекту, що сколихнуло світ кібербезпеки.

Коли ШІ стає запискою з вимогою викупу, PromptLock не лише шифрує дані, але й пише персоналізовані записки з вимогою викупу. (Джерело: MSN)

Атака програм-вимагачів повністю забезпечена штучним інтелектом

Система штучного інтелекту, розроблена командою Нью-Йоркського університету, може виконувати всі чотири етапи атаки програм-вимагачів:

• Створення шкідливого програмного забезпечення за допомогою мови Lua, налаштованої відповідно до конфігурації машини жертви
• Сканування ІТ-систем для виявлення цінних файлів
• Шифрування даних
• Напишіть персоналізовані листи з вимогою викупу на основі інформації про користувача

На відміну від традиційних програм-вимагачів, цей штучний інтелект націлений лише на певні файли, що ускладнює його виявлення. Щоразу, коли він запускається, шкідливе програмне забезпечення генерується по-різному (поліморфне), що допомагає йому уникнути розпізнавання програмним забезпеченням безпеки.

«Вона цілеспрямовано націлена на кілька файлів, тому її набагато важче виявити. Крім того, атака дуже персоналізована. Вона поліморфна, тому щоразу, коли ви запускаєте її на різних системах або навіть кілька разів на одній системі, згенерований код ніколи не буде однаковим», – пояснює аспірант Мд Раз з дослідницької групи.

Хоча це був лише контрольований експеримент, він показує, як штучний інтелект можна використовувати для створення складніших кібератак. Експерти попереджають, що в неправильних руках ця технологія може завдати серйозної шкоди організаціям та окремим особам.

PromptLock: Програма-вимагач 3.0 в епоху штучного інтелекту

Щоб краще зрозуміти природу та механізм роботи цієї системи, нам потрібно дослідити PromptLock – перше у світі програмне забезпечення-вимагач, повністю контрольоване штучним інтелектом.

PromptLock використовує велику мовну модель OpenAI gpt-oss:20b, розгорнуту через API Ollama. Замість завантаження всієї моделі розміром у гігабайт, система просто підключається до сервера, на якому працює модель, для генерації шкідливого програмного забезпечення Lua в режимі реального часу.

ESET – словацька компанія з кібербезпеки – підтвердила, що PromptLock є PoC (доказом дії), але попередила, що якщо його фактичне розгортання буде завершено, це може мати серйозні наслідки. Індикатори атаки (IoC) постійно змінюються між виконаннями, що ускладнює виявлення та стримування.

Навіть інші системи штучного інтелекту, такі як Claude, ChatGPT, GitHub Copilot, експлуатуються за допомогою методів «швидкого впровадження» – коли зловмисники обманом змушують штучний інтелект виконувати незаконні дії, такі як видалення файлів, крадіжка даних або здійснення фінансових транзакцій.

Завдяки штучному інтелекту: Лише однієї команди природною мовою достатньо, щоб запустити весь цикл атаки програми-вимагача. (Джерело: Thehackernews)

«Навіть попри те, що це був лише прототип, система була достатньо складною, щоб переконати експертів з кібербезпеки, що це справжнє шкідливе програмне забезпечення», – сказав Мд Раз, провідний автор дослідження PromptLock. Це показує, що штучний інтелект досяг рівня, коли він може автоматизувати атаки без втручання людини.

Мінх Хоан

Джерело: https://vtcnews.vn/ma-doc-tong-tien-dau-tien-do-ai-dieu-khien-promptlock-thach-thuc-an-ninh-mang-ar965501.html