В новую эпоху перед искусственным интеллектом стоит множество задач.

По мере того как искусственный интеллект становится все более доступным, а все больше частных лиц и предприятий используют его с помощью распространенных инструментов, хакеры могут одновременно автоматизировать атаки, ускорять операционные процессы и развертывать более сложные кампании для достижения своих незаконных целей.

Компания «Лаборатория Касперского» раскрывает типы кибератак с использованием искусственного интеллекта.

Ниже перечислены некоторые методы атак, выявленные компанией Kaspersky: ChatGPT может использоваться для разработки вредоносного ПО и автоматического развертывания атак на множество жертв; программы искусственного интеллекта внедряются в пользовательские данные на смартфонах и, анализируя конфиденциальные данные, могут полностью «украсть» сообщения, пароли и банковские коды у жертв; алгоритмы роевого интеллекта помогают компьютерным сетям автоматически (бонет) восстанавливать вредоносные сети, которые были устранены средствами безопасности.

Исследование компании «Лаборатория Касперского» по использованию ИИ для взлома паролей показывает, что большинство паролей шифруются с помощью алгоритмов хеширования, таких как MD5 и SHA. Следовательно, простая операция может преобразовать пароль в строку зашифрованного текста, но обратное преобразование всего процесса представляет собой серьезную проблему.

С помощью ИИ злоумышленники могут использовать мошеннический контент, включая текст, изображения, аудио и видео , для осуществления нетехнических атак. Крупные языковые модели, такие как ChatGPT-4o, используются для создания сложных фишинговых сценариев и сообщений. Преодолевая языковые барьеры, ИИ может написать кажущееся подлинным электронное письмо, основываясь исключительно на информации из социальных сетей. Он даже может имитировать стиль письма жертвы, что делает мошенничество еще более сложным для обнаружения.

Между тем, технология Deepfake стала «проблемой» в сфере кибербезопасности, несмотря на то, что ранее считалась продуктом научных исследований. Наиболее распространенный метод — выдача себя за знаменитостей с целью получения финансовой выгоды; кроме того, мошенники используют Deepfake для кражи аккаунтов и совершения звонков друзьям и родственникам жертв под другим именем с целью вымогательства денег.

Помимо использования технологий ИИ в незаконных целях, злоумышленники могут также атаковать алгоритмы ИИ. Это включает в себя атаки типа «внедрение подсказок», когда вредоносные команды внедряются в большие языковые модели, даже вопреки ранее запрещенным правилам; и атаки с использованием скрытой информации, когда к изображениям или аудио добавляются поля, скрывающие информацию, чтобы повлиять на возможности классификации изображений в системах машинного обучения.

Искусственный интеллект все больше интегрируется во все аспекты человеческой жизни, от Apple Intelligence и Google Gemini до Microsoft Copilot. Поэтому устранение уязвимостей ИИ должно стать первоочередной задачей. Компания Kaspersky уже много лет использует технологии ИИ для защиты своих клиентов и партнеров, постоянно выявляя уязвимости в системах ИИ для повышения их устойчивости и активно изучая методы кибератак для обеспечения надежной защиты от атак на основе ИИ.

КИМ ТХАНЬ

Источник: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html