Безопасность на основе искусственного интеллекта: палка о двух концах.

Развитие искусственного интеллекта представляет собой серьезный парадокс в индустрии безопасности: ИИ является одновременно и самым надежным защитным щитом, и самым опасным наступательным оружием.

Искусственный интеллект (ИИ) меняет все аспекты жизни, и кибербезопасность не является исключением. Однако стремительное развитие этой технологии создает серьезный парадокс: ИИ одновременно является самым надежным защитным щитом и самым опасным наступательным оружием. На мероприятии BSides Hanoi 2025, посвященном теме «ИИ взламывает вас», ведущие эксперты проанализировали природу этого обоюдоострого меча, представив всеобъемлющую картину кибервойны в новую эпоху.

По словам г-на Ву Дуй Хиена, заместителя генерального секретаря и руководителя аппарата Национальной ассоциации кибербезопасности, в настоящее время ИИ играет особенно важную роль, поддерживая отдельных лиц и предприятия во многих областях и помогая обрабатывать информацию быстрее и эффективнее. Однако в сфере кибербезопасности ИИ — это палка о двух концах.

Искусственный интеллект — интеллектуальный «телохранитель»

Несомненно, ИИ вносит огромный вклад в развитие индустрии кибербезопасности. «С положительной стороны, ИИ помогает нам обнаруживать атаки на ранних стадиях, анализировать данные и повышать уровень защиты сети. Многие интеллектуальные инструменты безопасности, разработанные благодаря ИИ, значительно сократили время реагирования на угрозы», — подтвердил г-н Ву Дуй Хиен.

Г-н Ву Дуй Хиен — заместитель генерального секретаря и руководитель аппарата Национальной ассоциации кибербезопасности — на конференции.

Эта сильная сторона наглядно демонстрируется в рассказе г-жи Хуинь Нгок Кхань Минь, члена некоммерческой организации «Сеть по борьбе с мошенничеством». Она отметила, что ранее, когда работа по предотвращению мошенничества в основном основывалась на ручных процессах, экспертам приходилось проверять каждое подозрительное звено по отдельности, что приводило к значительным задержкам в обработке десятков тысяч сообщений ежедневно.

Для преодоления этого ограничения команда по борьбе с фишингом разработала новый инструмент на основе искусственного интеллекта. «Пользователям достаточно просто вставить ссылку, и ИИ автоматически проверит ее и отобразит результаты в течение 30 секунд — 1 минуты с точностью до 98% », — сказала г-жа Кхань Минь. « Благодаря этому время проверки сокращается в десятки раз по сравнению с предыдущими версиями, что помогает людям эффективно и совершенно бесплатно выявлять и предотвращать риски онлайн-мошенничества».

Во всем мире ведущие платформы кибербезопасности также широко интегрировали ИИ. Система Darktrace использует самообучающийся ИИ для создания «иммунной системы» для бизнеса, автоматически обнаруживая даже самые незначительные аномалии, которые могут быть признаками неизвестной атаки. Аналогично, платформа CrowdStrike Falcon использует машинное обучение и поведенческий анализ для предотвращения сложных атак, а не полагается исключительно на известные сигнатуры вредоносного ПО.

Эти инструменты демонстрируют, как ИИ помогает специалистам по кибербезопасности перейти от пассивного к проактивному подходу, предотвращая угрозы до того, как они смогут нанести ущерб.

Искусственный интеллект — оружие в руках злодеев.

Обратная сторона медали не менее ошеломляюща. Именно превосходные возможности ИИ сделали его желанным инструментом для киберпреступников. Г-н Ву Дуй Хиен отметил: «С другой стороны, киберпреступники также используют ИИ для разработки более сложных методов атак, способных обходить многие уровни традиционной защиты. Поэтому скорость, масштаб и точность кибератак резко возрастают».

Фишинговые атаки носят ярко выраженный персонализированный характер: используя большие языковые модели (LLM), хакеры могут генерировать множество электронных писем и сообщений с естественным звучанием и контекстом, адаптированным к каждой цели, что позволяет обмануть даже самых осторожных пользователей.

Распространение технологии Deepfake: киберпреступники могут имитировать голос или видео генерального директора, чтобы запросить срочные денежные переводы. Известный случай связан с тем, как преступники использовали искусственный интеллект для имитации голоса генерального директора британской энергетической компании и успешно обманули его на 243 000 долларов.

Полиморфные вредоносные программы: Искусственный интеллект может использоваться для создания вредоносных программ, которые автоматически изменяют свой исходный код после каждого заражения, что делает традиционные антивирусные программы неэффективными.

Автоматизация процесса атаки: хакеры могут использовать ИИ для автоматического сканирования миллионов систем на наличие уязвимостей, осуществляя DDoS-атаки или взламывая пароли с невероятной скоростью, многократно увеличивая масштаб атаки.

Человеческий фактор и бесконечная гонка.

Учитывая эту реальность, эксперты сходятся во мнении, что война в сфере кибербезопасности в эпоху ИИ — это гонка между «хорошим ИИ» и «плохим ИИ». И в основе этой гонки человеческий фактор становится еще более важным.

Г-н Чыонг Дык Луонг, председатель VSEC, на семинаре.

Председатель Вьетнамской акционерной компании по кибербезопасности (VSEC) г-н Чыонг Дык Луонг заявил, что за 22 года работы он наблюдал недостаток возможностей для сотрудничества и обмена глубокими знаниями между вьетнамскими специалистами по кибербезопасности и мировым сообществом, в то время как международное сообщество по кибербезопасности очень активно. Это подчеркивает острую необходимость создания сильного сообщества.

В ответ на эти опасения г-н Ву Дуй Хиен заявил: «Искусственный интеллект — это необратимая тенденция, поэтому вместо того, чтобы беспокоиться, сообществу кибербезопасности необходимо сотрудничать, обмениваться опытом и вместе создавать надежную экосистему защиты, которая адаптируется к новой эпохе».

Кроме того, проблемы не ограничиваются техническими аспектами. По словам юриста Нхи Фам, несмотря на наличие вьетнамских правовых документов, расследование и судебное преследование по-прежнему сталкиваются со многими трудностями, поскольку нарушения часто носят трансграничный характер, что затрудняет отслеживание и возврат активов. Она считает, что для минимизации рисков крайне важны тесное сотрудничество и взаимопонимание между техническими и юридическими специалистами.

В конечном итоге, ключ к успеху — это постоянное совершенствование возможностей. Г-н Хайен подчеркнул, что борьба с киберпреступностью в эпоху искусственного интеллекта требует от каждого пользователя и каждого предприятия постоянного обновления технологий, и особенно от экспертов по кибербезопасности повышения квалификации и активной разработки новых решений.

Искусственный интеллект, обладающий обоюдоострым мечом, представляет собой одновременно серьезную проблему и беспрецедентную возможность для кибербезопасности. Будущее киберпространства зависит от того, как мы используем и контролируем этот мощный инструмент. Противостояние между оборонительным и наступательным ИИ будет бесконечной гонкой вооружений, и победа достанется только той стороне, которая лучше подготовлена, теснее сотрудничает и постоянно учится и внедряет инновации.

Хуй Куанг

Источник: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html