Експерт з безпеки «обманом» змушує ChatGPT писати шкідливий код

Штучний інтелект (ШІ), такий як ChatGPT, став світовою сенсацією з початку 2023 року, але цей ШІ не завжди використовується для позитивних цілей. Нещодавно експерт з безпеки знайшов спосіб попросити ChatGPT створити шкідливий код під час тестування.

Аарон Малгрю, експерт з безпеки у Forcepoint, поділився ризиком написання шкідливого програмного забезпечення за допомогою чат-бота OpenAI, написаного мовою програмування. Хоча ChatGPT був розроблений для того, щоб запобігти просенню користувачів про створення шкідливого програмного забезпечення до ШІ, Аарон все ж знайшов лазівку, створивши для ШІ підказки щодо написання програмного коду рядок за рядком. Об'єднавши все це, Аарон зрозумів, що має в руках непомітний інструмент для виконання крадіжки даних, настільки складний, що його можна порівняти з найдосконалішим шкідливим програмним забезпеченням сьогодні.

Từng dòng lệnh riêng lẻ do ChatGPT tạo ra khi kết hợp lại có thể trở thành mã độc tinh vi — Кожен окремий командний рядок, згенерований ChatGPT, у поєднанні може перетворитися на складне шкідливе програмне забезпечення.

Відкриття Малгрю стало сигналом тривоги щодо потенціалу використання штучного інтелекту для створення небезпечного шкідливого програмного забезпечення без необхідності участі групи хакерів або навіть написання єдиного рядка коду самим творцем інструменту.

Програмне забезпечення Mulgrew замасковане під заставку екрана, але здатне автоматично активуватися на пристроях під керуванням Windows. Потрапивши в операційну систему, шкідливе програмне забезпечення «проникло» в кожен файл, включаючи текстові редактори Word, файли зображень та PDF-файли, шукаючи дані для крадіжки.

Отримавши необхідну інформацію, програма розбиває її на частини та додає до файлів зображень на комп’ютері. Щоб уникнути виявлення, зображення завантажуються в папку на Google Диску. Шкідливе програмне забезпечення настільки потужне, оскільки Mulgrew може налаштовувати та покращувати свої функції, щоб уникнути виявлення, за допомогою простих команд, введених у ChatGPT.

Хоча це було приватне тестування експертами з безпеки, і жодних атак поза межами тестування не було здійснено, спільнота кібербезпеки все ще визнає небезпеку дій з використанням ChatGPT. Малгрю стверджує, що він не має великого досвіду в програмуванні, але штучний інтелект OpenAI все ще недостатньо сильний та розумний, щоб запобігти його тесту.

Посилання на джерело