Безпека на базі штучного інтелекту: палиця з двома кінцями.

Розвиток штучного інтелекту являє собою серйозний парадокс у сфері безпеки: ШІ є одночасно найнадійнішим захисним щитом і найнебезпечнішою наступальною зброєю.

Штучний інтелект (ШІ) змінює кожен аспект життя, і кібербезпека не є винятком. Однак стрімкий розвиток цієї технології створює серйозний парадокс: ШІ є одночасно найнадійнішим захисним щитом і найнебезпечнішою наступальною зброєю. На заході BSides Hanoi 2025, присвяченому темі «ШІ зламає тебе», провідні експерти розібрали природу цього двосічного меча, окресливши повну картину кібервійни в нову епоху.

За словами пана Ву Зуй Хіена, заступника генерального секретаря та керівника офісу Національної асоціації кібербезпеки, штучний інтелект наразі є однією з технологій, що відіграють особливо важливу роль, підтримуючи окремих осіб та підприємства в багатьох сферах і допомагаючи швидше та ефективніше обробляти роботу. Однак у сфері кібербезпеки штучний інтелект – це палиця з двома кінцями.

ШІ – інтелектуальний «охоронець»

Безперечно, штучний інтелект привносить величезний прогрес у галузь кібербезпеки. «З позитивного боку, штучний інтелект допомагає нам виявляти атаки на ранній стадії, аналізувати дані та покращувати захист мережі. Багато інтелектуальних інструментів безпеки, розроблених завдяки штучному інтелекту, значно скоротили час реагування на загрози», – підтвердив пан Ву Дуй Хієн.

Пан Ву Зуй Хієн – заступник Генерального секретаря та керівник офісу Національної асоціації кібербезпеки – на конференції.

Цю силу чітко демонструє пані Хюїнь Нгок Хань Мінь, член некомерційної мережі боротьби з шахрайством. Вона сказала, що раніше, коли робота з запобігання шахрайству переважно спиралася на ручні процеси, експертам доводилося перевіряти кожне підозріле посилання окремо, що призводило до значних затримок в обробці десятків тисяч звітів щодня.

Щоб подолати це обмеження, команда Anti-Fishing розробила новий інструмент на основі штучного інтелекту. «Користувачі просто вставляють посилання, а штучний інтелект автоматично перевірить і відобразить результати протягом 30 секунд–1 хвилини з точністю до 98% », – сказала пані Хань Мінь. « Завдяки цьому час перевірки скорочується в десятки разів порівняно з попереднім періодом, що допомагає людям проактивно виявляти та запобігати ризикам онлайн-шахрайства ефективно та абсолютно безкоштовно».

У світовому масштабі провідні платформи кібербезпеки також широко інтегрували штучний інтелект. Система Darktrace використовує самонавчальний штучний інтелект для створення «імунної системи» для бізнесу, автоматично виявляючи навіть найменші аномалії, які можуть бути ознаками невідомої атаки. Аналогічно, платформа CrowdStrike Falcon використовує машинне навчання та поведінковий аналіз для запобігання складним атакам, а не покладається виключно на відомі сигнатури шкідливих програм.

Ці інструменти демонструють, як штучний інтелект допомагає фахівцям з кібербезпеки перейти від пасивного до проактивного підходу, запобігаючи загрозам до того, як вони зможуть завдати шкоди.

Штучний інтелект — зброя в руках лиходіїв.

Темна сторона медалі не менш вражаюча. Саме завдяки чудовим можливостям штучного інтелекту він став бажаним інструментом для кіберзлочинців. Пан Ву Зуй Хієн зазначив: «І навпаки, кіберзлочинці також використовують штучний інтелект для розробки більш складних методів атак, здатних обходити багато рівнів традиційного захисту. Тому швидкість, масштаб і точність кібератак різко зростають».

Фішингові атаки дуже персоналізовані: використовуючи моделі великих мов (LLM), хакери можуть генерувати масу електронних листів та повідомлень з природною мовою та контекстом, адаптованим до кожної цілі, що дозволяє обдурити навіть найобережніших користувачів.

Зростання популярності Deepfake: кіберзлочинці можуть видавати себе за голос або відео генерального директора, щоб запитувати термінові грошові перекази. Відомий випадок стосувався того, що злочинці використовували штучний інтелект для імітації голосу генерального директора британської енергетичної компанії, щоб успішно шахрайським шляхом викрасти 243 000 доларів.

Поліморфне шкідливе програмне забезпечення: Штучний інтелект може бути використаний для створення шкідливого програмного забезпечення, яке автоматично змінює свій вихідний код після кожного зараження, що робить традиційне антивірусне програмне забезпечення неефективним.

Автоматизація процесу атаки: Хакери можуть використовувати штучний інтелект для автоматичного сканування мільйонів систем на наявність вразливостей, здійснюючи атаки типу «відмова в обслуговуванні» (DDoS) або зламуючи паролі з шаленою швидкістю, що багаторазово збільшує масштаб атаки.

Людський фактор і нескінченна гонка.

З огляду на цю реальність, експерти погоджуються, що кібервійна в епоху штучного інтелекту – це гонка між «хорошим ШІ» та «поганим ШІ». І в основі цієї гонки людський фактор стає ще більш важливим.

Пан Труонг Дик Луонг - голова VSEC - на семінарі.

Пан Труонг Дик Луонг, голова правління В'єтнамської акціонерної компанії з кібербезпеки (VSEC), заявив, що за 22 роки досвіду він помітив брак можливостей для співпраці та обміну глибокими знаннями між в'єтнамськими фахівцями з кібербезпеки та світом, тоді як міжнародна спільнота кібербезпеки дуже активна. Це підкреслює нагальну потребу у створенні сильної спільноти.

У відповідь на це занепокоєння пан Ву Зуй Хієн заявив: «Штучний інтелект — це незворотна тенденція, тому замість того, щоб хвилюватися, спільнота кібербезпеки повинна співпрацювати, ділитися досвідом і разом будувати безпечну оборонну екосистему, яка адаптується до нової ери».

Крім того, проблеми не обмежуються технічними аспектами. За словами юриста Нхі Фам, хоча у В'єтнамі є правові документи, розслідування та кримінальне переслідування все ще стикаються з багатьма труднощами, оскільки порушення часто є транскордонними, що ускладнює відстеження та повернення активів. Вона вважає, що для мінімізації ризиків необхідна тісна співпраця та взаєморозуміння між технічними та юридичними командами.

Зрештою, ключем до успіху є постійне вдосконалення можливостей. Пан Хієн наголосив, що боротьба з кіберзлочинністю в епоху штучного інтелекту вимагає від кожного користувача та кожного бізнесу постійного оновлення своїх технологій, а особливо від експертів з кібербезпеки, які повинні вдосконалювати свої професійні навички та проактивно розробляти нові рішення.

Двосічний меч штучного інтелекту ставить під загрозу кібербезпеку як серйозний виклик, так і безпрецедентну можливість. Майбутнє кіберпростору залежить від того, як ми використовуватимемо та контролюватимемо цей потужний інструмент. Протистояння між оборонним та наступальним штучним інтелектом буде нескінченною гонкою озброєнь, і перемога дістанеться лише тій стороні, яка буде краще підготовлена, тісніше співпрацюватиме, постійно навчатиметься та впроваджуватиме інновації.

Хюй Куанг

Джерело: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html