Безпека штучного інтелекту: палиця з двома кінцями

Штучний інтелект (ШІ) змінює кожен аспект життя, і кібербезпека не є винятком. Однак стрімкий розвиток цієї технології створює великий парадокс: ШІ є одночасно найнадійнішим захисним щитом і найнебезпечнішою зброєю атаки. На заході BSides Hanoi 2025 з темою «ШІ зламає тебе» провідні експерти зібралися разом, щоб «розібрати» природу цього двосічного меча, намалювавши панорамну картину кібервійни в нову еру.

За словами пана Ву Зуй Хіена, заступника генерального секретаря та керівника офісу Національної асоціації кібербезпеки, штучний інтелект наразі є однією з технологій, яка відіграє особливо важливу роль, підтримуючи окремих осіб та підприємства в багатьох сферах і допомагаючи швидше та ефективніше обробляти роботу. Однак у сфері кібербезпеки штучний інтелект – це палиця з двома кінцями.

ШІ - Розумний «охоронець»

Не можна заперечувати, що штучний інтелект робить великі кроки в галузі кібербезпеки. «З позитивного боку, штучний інтелект допомагає нам виявляти атаки на ранній стадії, аналізувати дані та зміцнювати захист мережі. Багато розумних інструментів безпеки, створених завдяки штучному інтелекту, значно скоротили час реагування на загрози», – підтвердив пан Ву Дуй Хіен.

Пан Ву Зуй Хієн – заступник Генерального секретаря та керівник офісу Національної асоціації кібербезпеки – на семінарі.

Цю силу чітко демонструє розповідь пані Хюїнь Нгок Хань Мінь, учасниці некомерційної мережі Anti-Phishing. Вона розповіла, що раніше, коли боротьба з фішингом переважно спиралася на ручні процеси, експертам доводилося перевіряти кожне підозріле посилання одне за одним, що призводило до величезної затримки в десятках тисяч звітів на день.

Щоб подолати це обмеження, команда з боротьби з шахрайством розробила новий інструмент на основі штучного інтелекту. «Користувачам потрібно лише вставити посилання, штучний інтелект автоматично перевірить і відобразить результати за 30 секунд–1 хвилину з точністю до 98% », – сказала пані Хань Мінь. « Завдяки цьому час перевірки скорочується в десятки разів порівняно з попереднім періодом, що допомагає людям проактивно виявляти та запобігати ризику онлайн-шахрайства ефективно та абсолютно безкоштовно».

У світовому масштабі провідні платформи кібербезпеки також глибоко інтегрували штучний інтелект. Система Darktrace використовує самонавчальний штучний інтелект для побудови «імунної системи» для бізнесу, автоматично виявляючи найменші аномалії, які можуть бути ознаками невідомої атаки. Аналогічно, платформа CrowdStrike Falcon використовує машинне навчання та поведінковий аналіз для запобігання складним атакам, замість того, щоб покладатися виключно на відомі «сигнатури» шкідливих програм.

Ці інструменти показують, як штучний інтелект допомагає фахівцям з кібербезпеки перейти від реактивного до проактивного підходу, зупиняючи загрози до того, як вони зможуть завдати шкоди.

Штучний інтелект – зброя в руках лиходіїв

Зворотний бік медалі не менш блискучий. Саме чудові можливості штучного інтелекту перетворили його на бажаний інструмент для кіберзлочинців. Пан Ву Зуй Хієн зазначив: «З іншого боку, кіберзлочинці також використовують штучний інтелект для розробки більш складних форм атак, здатних долати багато рівнів традиційного захисту. Тому швидкість, масштаб і точність кібератак різко зросли».

Глибоко персоналізовані фішингові атаки: за допомогою моделей великих мов (LLM) хакери можуть створювати серії електронних листів та повідомлень із природною мовою та контекстом, що відповідають кожній цілі, змушуючи навіть найобережніших користувачів потрапляти на їхню долю.

Зростання популярності діпфейків: кіберзлочинці можуть підробити голос або відео генерального директора, щоб запросити термінові грошові перекази. Один відомий випадок стосувався того, як злочинці використовували штучний інтелект для підробки голосу генерального директора британської енергетичної компанії, щоб успішно шахрайським шляхом викрасти 243 000 доларів.

Поліморфне шкідливе програмне забезпечення: Штучний інтелект може бути використаний для створення шкідливого програмного забезпечення, яке може автоматично змінювати свій вихідний код після кожного зараження, що робить традиційне антивірусне програмне забезпечення неефективним.

Автоматизація процесу атаки: Хакери можуть використовувати штучний інтелект для автоматичного сканування мільйонів систем на наявність вразливостей, здійснення розподілених атак типу «відмова в обслуговуванні» (DDoS) або злому паролів з шаленою швидкістю, що багаторазово збільшує масштаб атаки.

Людський фактор і нескінченна гонка

Зіткнувшись із цією реальністю, експерти погоджуються, що кібервійна в епоху штучного інтелекту – це гонка між «хорошим ШІ» та «поганим ШІ». І в основі цієї гонки людський фактор стає ще важливішим.

Пан Труонг Дик Луонг – голова VSEC – на семінарі.

Пан Труонг Дик Луонг, голова правління В'єтнамської акціонерної компанії з кібербезпеки (VSEC), зазначив, що за 22 роки досвіду він усвідомив брак можливостей для співпраці та обміну глибокими знаннями між в'єтнамською командою з кібербезпеки та світом, тоді як міжнародна спільнота безпеки дуже активна. Це створює нагальну потребу у побудові сильної спільноти.

Відповідаючи на це занепокоєння, пан Ву Зуй Хієн сказав: «Штучний інтелект — це незворотна тенденція, тому замість того, щоб хвилюватися, спільнота кібербезпеки повинна співпрацювати, ділитися досвідом і разом будувати безпечну оборонну екосистему, яка адаптується до нової ери».

Крім того, проблема полягає не лише в технічному аспекті. За словами юриста Нхі Фам, хоча В'єтнам має юридичні документи, розслідування та обробка справ все ще стикаються з багатьма труднощами, оскільки порушення часто мають міжнародний характер, що ускладнює відстеження та повернення активів. За її словами, для мінімізації ризиків важливо тісно співпрацювати та взаєморозуміти між технічною та юридичною командами.

Зрештою, ключ до перемоги полягає в постійному вдосконаленні ваших можливостей. Пан Хієн наголосив, що запобігання кіберзлочинності в епоху штучного інтелекту вимагає від кожного користувача та кожного бізнесу постійного оновлення технологій, а зокрема, експертам з кібербезпеки необхідно вдосконалювати свої професійні можливості та розробляти нові, проактивні рішення.

Двосічний меч штучного інтелекту ставить величезний виклик, але також і безпрецедентну можливість для індустрії кібербезпеки. Майбутнє кіберпростору залежить від того, як ми використовуватимемо та контролюватимемо цей потужний інструмент. Протистояння між оборонним та наступальним ШІ буде нескінченною гонкою озброєнь, і перемога належатиме лише тій стороні, яка краще підготовлена, тісніше співпрацює, постійно навчається та впроваджує інновації.

Хюй Куанг

Джерело: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html