Эксперт по безопасности «обманом» заставляет ChatGPT написать вредоносный код

Искусственный интеллект (ИИ), подобный ChatGPT, стал мировой сенсацией в начале 2023 года, но он не всегда используется во благо. Недавно эксперт по безопасности нашёл способ заставить ChatGPT создать вредоносный код во время тестирования.

Аарон Малгрю, эксперт по безопасности компании Forcepoint, рассказал о риске написания вредоносного ПО с использованием чат-бота с языком программирования, разработанного OpenAI. Хотя ChatGPT был разработан таким образом, чтобы пользователи не могли просить ИИ разрабатывать вредоносное ПО, Аарон всё же обнаружил уязвимость, создавая командные строки (запросы), чтобы искусственный интеллект мог писать программный код в каждой отдельной строке. Объединив всё это вместе, Аарон понял, что в его руках находится незаметный инструмент для кражи данных, настолько сложный, что он сопоставим с современными вредоносными программами.

Каждая отдельная командная строка, сгенерированная ChatGPT, в совокупности может стать сложным вредоносным ПО.

Открытие Малгрю — это предупреждение о возможности использования ИИ для создания опасного вредоносного ПО без необходимости написания хакерской группой или даже создателем инструмента хотя бы единой строки кода.

Программное обеспечение Малгрю маскируется под заставку, но может автоматически активироваться на устройствах под управлением Windows. Попав в операционную систему, вредоносная программа «проникает» в каждый файл, включая текстовые редакторы, файлы изображений и PDF-файлы, в поисках данных для кражи.

Получив необходимую информацию, программа разбивает её на части и прикрепляет к файлам изображений на компьютере. Чтобы избежать обнаружения, изображения загружаются в папку в облачном хранилище Google Диска. Вредоносная программа настолько эффективна, поскольку Малгрю может настраивать и улучшать свои функции, чтобы избежать обнаружения, с помощью простых команд, вводимых в ChatGPT.

Хотя это был закрытый тест, проведённый экспертами по безопасности, и за пределами зоны тестирования не было совершено ни одной атаки, киберсообщество по-прежнему признаёт опасность использования ChatGPT. Малгрю утверждает, что у него нет большого опыта в программировании, но искусственный интеллект OpenAI всё ещё недостаточно силён и умен, чтобы предотвратить его тест.

Ссылка на источник: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm