OpenAI предупреждает, что хакеры используют ИИ для более изощренных действий

OpenAI предупреждает, что хакерские группировки по всему миру используют ИИ для создания вредоносных программ, создания фишинговых писем и сбора данных, что затрудняет обнаружение и предотвращение кибератак.

В октябрьском отчете OpenAI говорится, что киберпреступники по всему миру в первую очередь интегрируют искусственный интеллект (ИИ) в существующие каналы атак для повышения производительности, а не разрабатывают совершенно новые инструменты или методы атак.

По данным OpenAI, значительная часть обнаруженной активности была связана с использованием ИИ для выполнения таких привычных задач, как разработка вредоносного ПО, создание инфраструктуры управления, создание более сложных фишинговых писем и сбор информации о целях.

«Заблокированные команды в основном внедряли ИИ в существующие процессы, а не создавали новые процессы на основе ИИ», — говорится в отчете.

В отчете также установлено, что многие группы пользователей использовали большие языковые модели (LLM) для добычи знаний в различных технических областях — от разработки приложений до настройки сетевых систем, — зачастую таким образом, что каждая учетная запись специализировалась на определенной задаче.

Было выявлено несколько других пользовательских сетей, использующих платформы ИИ для генерации онлайн-контента, включая статьи, изображения и видео , для проведения медиакампаний или продвижения определённых точек зрения. Однако большинство этих аккаунтов неэффективны и характеризуются крайне низким уровнем вовлечённости.

Кроме того, OpenAI также зафиксировала случаи использования ChatGPT мошенническими центрами и киберпреступниками для поддержки онлайн-мошенничества в Мьянме и Камбодже. В некоторых случаях ИИ используется не только для редактирования контента, но и для управления рабочими графиками, кадрами и финансами.

Однако OpenAI отмечает, что ИИ также активно используется для предотвращения мошенничества. По оценкам, ChatGPT используется в три раза чаще для выявления и предотвращения мошенничества, чем для его совершения.

Большинство вредоносных запросов отклоняются системой, однако в отчете отмечается, что все еще существует «серая зона», в которой технические или исследовательские запросы могут быть использованы в непреднамеренных целях.

Однако OpenAI утверждает, что созданный код или контент не является вредоносным до тех пор, пока он не будет использован не по назначению за пределами платформы.

(TTXVN/Вьетнам+)

Источник: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp