Эксперт по безопасности «обманом» заставляет ChatGPT написать вредоносный код

Искусственный интеллект (ИИ), подобный ChatGPT, стал мировой сенсацией в начале 2023 года, но он не всегда используется во благо. Недавно эксперт по безопасности нашёл способ заставить ChatGPT создать вредоносный код во время тестирования.

Аарон Малгрю, эксперт по безопасности в Forcepoint, рассказал о риске написания вредоносного ПО с использованием чат-бота OpenAI. Хотя ChatGPT был разработан, чтобы помешать пользователям запрашивать у ИИ написание вредоносного ПО, Аарон всё же нашёл лазейку, создавая запросы для ИИ, чтобы тот писал программный код построчно. Объединив всё это вместе, Аарон понял, что в его руках находится незаметный инструмент для кражи данных, настолько сложный, что его можно сравнить с самыми сложными современными вредоносными программами.

Каждая отдельная командная строка, сгенерированная ChatGPT, в совокупности может стать сложным вредоносным ПО.

Открытие Малгрю — это сигнал тревоги, свидетельствующий о возможности использования ИИ для создания опасного вредоносного ПО без необходимости участия хакерской группы или даже написания создателем инструмента хотя бы одной строчки кода.

Программное обеспечение Малгрю маскируется под заставку, но может автоматически активироваться на устройствах под управлением Windows. Попав в операционную систему, вредоносная программа «проникает» в каждый файл, включая текстовые редакторы Word, файлы изображений и PDF-файлы, в поисках данных для кражи.

Получив необходимую информацию, программа разбивает её на части и прикрепляет к файлам изображений на компьютере. Чтобы избежать обнаружения, изображения загружаются в папку на Google Диске. Вредоносная программа настолько эффективна, поскольку Малгрю может настраивать и улучшать свои функции, чтобы избежать обнаружения, с помощью простых команд, вводимых в ChatGPT.

Хотя это было закрытое тестирование, проводимое экспертами по безопасности, и никаких атак за пределами его границ не проводилось, сообщество кибербезопасности по-прежнему признаёт опасность использования ChatGPT. Малгрю утверждает, что у него нет большого опыта в программировании, но искусственный интеллект OpenAI всё ещё недостаточно силён и умен, чтобы помешать его тестированию.

Ссылка на источник: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm