Безопасность ИИ: палка о двух концах

Искусственный интеллект (ИИ) меняет все аспекты жизни, и кибербезопасность не является исключением. Однако стремительное развитие этой технологии порождает серьёзный парадокс: ИИ одновременно является и самым надёжным средством защиты, и самым опасным оружием нападения. На конференции BSides Hanoi 2025, посвящённой теме «ИИ взламывает вас», ведущие эксперты собрались вместе, чтобы «проанализировать» природу этого обоюдоострого меча и обрисовать панорамную картину кибервойны новой эпохи.

По словам г-на Ву Дуй Хьена, заместителя генерального секретаря и руководителя офиса Национальной ассоциации кибербезопасности, ИИ в настоящее время играет особенно важную роль, поддерживая людей и компании во многих областях и помогая выполнять работу быстрее и эффективнее. Однако в сфере кибербезопасности ИИ — палка о двух концах.

ИИ — умный «телохранитель»

Нельзя отрицать, что ИИ добился значительных успехов в сфере кибербезопасности. «С другой стороны, ИИ помогает нам обнаруживать атаки на ранних этапах, анализировать данные и укреплять сетевую защиту. Многие интеллектуальные инструменты безопасности, созданные благодаря ИИ, значительно сократили время реагирования на угрозы», — подтвердил г-н Ву Дуй Хиен.

Г-н Ву Дуй Хиен - заместитель генерального секретаря и руководитель офиса Национальной ассоциации кибербезопасности - на семинаре.

Эту мощь наглядно демонстрирует пример г-жи Хюинь Нгок Кхань Минь, члена некоммерческой сети Anti-Phishing. Она отметила, что раньше, когда борьба с фишингом в основном основывалась на ручных процессах, экспертам приходилось проверять каждую подозрительную ссылку по отдельности, что приводило к огромной задержке при обработке десятков тысяч сообщений в день.

Чтобы преодолеть это ограничение, команда по борьбе с мошенничеством разработала новый инструмент на основе искусственного интеллекта. «Пользователям достаточно просто вставить ссылку, и искусственный интеллект автоматически проверит и покажет результаты в течение 30 секунд – 1 минуты с точностью до 98% », – сказала г-жа Кхань Минь. « Благодаря этому время проверки сократилось в десятки раз по сравнению с предыдущими годами, что позволяет людям эффективно и совершенно бесплатно выявлять и предотвращать риск онлайн-мошенничества».

Ведущие платформы кибербезопасности во всем мире также глубоко интегрировали ИИ. Система Darktrace использует самообучающийся ИИ для создания «иммунной системы» для бизнеса, автоматически выявляя мельчайшие аномалии, которые могут быть признаками неизвестной атаки. Аналогичным образом, платформа CrowdStrike Falcon использует машинное обучение и поведенческий анализ для предотвращения сложных атак, не полагаясь исключительно на известные «сигнатуры» вредоносных программ.

Эти инструменты показывают, как ИИ помогает специалистам по кибербезопасности переходить от реагирования к упреждающим действиям, блокируя угрозы до того, как они смогут нанести ущерб.

ИИ — оружие в руках плохих парней

Обратная сторона медали не менее блестящая. Именно превосходные возможности ИИ превратили его в желанную ракету для киберпреступников. Г-н Ву Дуй Хиен отметил: «С другой стороны, киберпреступники также используют ИИ для разработки более сложных форм атак, способных преодолеть множество уровней традиционной защиты. В результате скорость, масштаб и точность кибератак значительно возросли».

Глубоко персонализированные фишинговые атаки: с помощью больших языковых моделей (LLM) хакеры могут создавать серии писем и сообщений на естественном языке и с контекстом, подходящим для каждой цели, что делает их мишенью даже самых осторожных пользователей.

Расцвет дипфейков: киберпреступники могут подделывать голос или видео генерального директора, чтобы запросить срочный перевод денег. Один из известных случаев связан с тем, как преступники использовали ИИ для подделки голоса генерального директора британской энергетической компании и успешно похитили 243 000 долларов.

Полиморфное вредоносное ПО: ИИ может использоваться для создания вредоносного ПО, которое может автоматически изменять свой исходный код после каждого заражения, что делает традиционное антивирусное программное обеспечение неэффективным.

Автоматизация процесса атаки: хакеры могут использовать ИИ для автоматического сканирования миллионов систем на наличие уязвимостей, проводить распределенные атаки типа «отказ в обслуживании» (DDoS) или взламывать пароли на невероятной скорости, многократно увеличивая масштаб атаки.

Человеческий фактор и бесконечная гонка

Столкнувшись с этой реальностью, эксперты сходятся во мнении, что война кибербезопасности в эпоху ИИ — это гонка между «хорошим ИИ» и «плохим ИИ». И в центре этой гонки человеческий фактор становится ещё важнее.

Г-н Труонг Дук Лыонг - председатель VSEC - на семинаре.

Г-н Чыонг Дык Лыонг, председатель Vietnam Cyber Security Joint Stock Company (VSEC), отметил, что, имея 22-летний опыт работы, он осознал отсутствие возможностей для сотрудничества и обмена глубокими знаниями между вьетнамскими специалистами по кибербезопасности и миром, в то время как международное сообщество в сфере безопасности проявляет высокую активность. Это обусловливает острую необходимость в создании сильного сообщества.

Комментируя эту обеспокоенность, г-н Ву Дуй Хиен заявил: «Искусственный интеллект — это необратимая тенденция, поэтому вместо того, чтобы беспокоиться, сообществу кибербезопасности необходимо сотрудничать, обмениваться опытом и совместно создавать безопасную защитную экосистему, адаптируемую к новой эпохе».

Кроме того, проблема не только в технической стороне. По словам адвоката Нхи Фам, несмотря на наличие у Вьетнама юридических документов, расследование и ведение дел по-прежнему сталкиваются с множеством сложностей, поскольку нарушения часто носят трансграничный характер, что затрудняет отслеживание и возврат активов. По её словам, для минимизации рисков крайне важно тесное сотрудничество и взаимопонимание между техническими и юридическими командами.

В конечном счёте, ключ к победе — постоянное совершенствование своих возможностей. Г-н Хиен подчеркнул, что предотвращение киберпреступности в эпоху искусственного интеллекта требует от каждого пользователя и каждой компании постоянного обновления технологий, и в частности, экспертам по кибербезопасности необходимо повышать свои профессиональные навыки и разрабатывать новые, проактивные решения.

Обоюдоострый меч искусственного интеллекта стал серьёзным вызовом, но также и беспрецедентной возможностью для индустрии кибербезопасности. Будущее киберпространства зависит от того, как мы используем и контролируем этот мощный инструмент. Противостояние между защитным и наступательным ИИ станет бесконечной гонкой вооружений, и победа достанется лишь той стороне, которая лучше подготовлена, теснее сотрудничает, постоянно учится и внедряет инновации.

Хуэй Куанг

Источник: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html