Експерт з безпеки «обманом» змушує ChatGPT писати шкідливе програмне забезпечення.

Штучний інтелект (ШІ), такий як ChatGPT, став світовою сенсацією з початку 2023 року, але його не завжди використовують у позитивних цілях. Нещодавно експерт з безпеки виявив спосіб доручити ChatGPT генерувати шкідливий код під час тестування.

Аарон Малгрю, експерт з безпеки у Forcepoint, поділився ризиками написання шкідливого коду за допомогою двомовного чат-бота OpenAI. Хоча ChatGPT розроблений для того, щоб запобігти запитам користувачів до ШІ щодо створення шкідливого програмного забезпечення, Аарон виявив вразливість, створивши команди (підказки) для штучного інтелекту, щоб він писав код рядок за рядком. Об'єднавши все це, Аарон зрозумів, що має в руках непомітний інструмент виконання для крадіжки даних, настільки складний, що він може конкурувати навіть з найсучаснішим шкідливим програмним забезпеченням, доступним на даний момент.

Кожен окремий рядок коду, згенерований ChatGPT, у поєднанні може перетворитися на складне шкідливе програмне забезпечення.

Відкриття Малгрю слугує сигналом тривоги щодо потенціалу використання штучного інтелекту для створення небезпечного шкідливого програмного забезпечення без необхідності участі будь-яких хакерських груп і навіть без написання самими творцями жодного рядка коду.

Шкідливе програмне забезпечення Mulgrew маскується під настільний додаток, але воно може автоматично активуватися на пристроях Windows. Потрапивши всередину операційної системи, шкідливе програмне забезпечення «проникло» в усі файли, включаючи документи Word, файли зображень та PDF-файли, щоб знайти дані для викрадення.

Отримавши необхідну інформацію, програма розбиває її на частини та вбудовує у файли зображень на комп’ютері. Щоб уникнути виявлення, ці зображення завантажуються в папку на хмарному сховищі Google Диска. Шкідливе програмне забезпечення стає неймовірно потужним, оскільки Mulgrew може точно налаштовувати та вдосконалювати свої функції, щоб уникнути виявлення, за допомогою простих команд, введених у ChatGPT.

Хоча це був результат приватного тестування, проведеного експертом з безпеки, і жодних атак не було здійснено поза зоною тестування, експерти з кібербезпеки все ж визнали небезпеку дій з використанням ChatGPT. Малгрю заявив, що сам не має великого досвіду в програмуванні, але штучний інтелект OpenAI все ще недостатньо потужний чи розумний, щоб зупинити його тест.

Посилання на джерело: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm