Хакери можуть отримати конфіденційну інформацію компанії, «спілкуючись» з чат-ботом на базі штучного інтелекту

За словами експертів з технологій, використовуючи серію складних підказок, хакери можуть проникнути в «конфіденційну» базу даних компанії, не будучи виявленими.

Огляд заходу OpenInfra & Cloud Native Day Vietnam 2025 на тему «Ера цифрового прориву В'єтнаму» – Фото: CHI HIEU

Штучний інтелект (ШІ) приносить багато цінностей, особливо зараз, коли його інтегрують багато компаній для обслуговування кінцевих користувачів, таких як співробітники компаній, клієнти... Звідси, системи чат-ботів, інтегровані зі ШІ, можуть стати «вузькими дверима» для хакерів, щоб атакувати та викрадати інформацію в системах зберігання даних.

«Наразі існує багато методів атаки на моделі штучного інтелекту, найпоширенішим з яких є «отруєння контентом», яке, здається, «невидиме» для традиційних систем захисту інформації», – попередив пан Дао В’єт Хунг, директор Akamai Technologies Vietnam, на заході OpenInfra & Cloud Native Day Vietnam 2025, що відбувся 26 липня в Ханої .

Захід було організовано В'єтнамською інтернет-асоціацією (VIA) у співпраці з В'єтнамською спільнотою відкритої інфраструктури (VietOpenInfra), В'єтнамським клубом хмарних обчислень та центрів обробки даних (VNCDC) за підтримки Міністерства науки і технологій .

90% підприємств використовують відкриті платформи або програмне забезпечення

У своїй вступній промові пан Ву Тхе Бінь, віцепрезидент і генеральний секретар В'єтнамської інтернет-асоціації, наголосив на важливості відкритої інфраструктури та відкритого вихідного коду в процесі національної цифрової трансформації.

У контексті швидких змін у світових технологіях пан Бінь зазначив, що відкрита інфраструктура продовжує розвиватися як основа для інновацій, коли понад 90% підприємств використовують відкриті платформи або програмне забезпечення в різних формах.

Згідно з опитуванням Red Hat (2024), 82% лідерів у сфері технологій вважають відкриті платформи та програмне забезпечення ключем до просування цифрової трансформації та прискорення інновацій. Такі платформи, як Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry, відіграють дедалі важливішу роль в експлуатації систем штучного інтелекту, Інтернету речей, 5G/6G та хмарних нативних систем.

«10 років тому хмару можна було сплутати з хмарами на небі, а відкритий код звучав як «секрет бойових мистецтв». Але сьогодні ми тут, об’єднуємося зі світовою спільнотою відкритої інфраструктури у понад 180 країнах, разом перетворюючи рядки коду на рушійну силу інновацій», – поділився пан Ву Тхе Бінь.

ШІ-чатбот – «вузькі двері» для проникнення хакерів у систему

«Наразі багато компаній активно застосовують ефективність відкритих, адаптивних платформ, які інтегрують такі системи, як чат-боти зі штучним інтелектом, щоб покращити продуктивність роботи та покращити взаємодію з користувачем».

Також звідси випливає багато методів атаки на моделі штучного інтелекту, включаючи атаки «отруєння контентом», попередив пан Дао В'єт Хунг, директор Akamai Technologies Vietnam.

Він зазначив, що в'єтнамські компанії під час впровадження штучного інтелекту досі мало знають про цю форму атаки.

Відповідно, зловмисники використовують метод постійного запитування та перенавчання моделі ШІ неправдивої інформації, що призводить до інформаційного «отруєння».

Якщо інформація в хмарній системі була «заражена», не виявляється та продовжує використовуватися, вона надаватиме невірну інформацію або використовуватиме цю вразливість для проникнення в базу даних з метою отримання інформації.

Пан Дао В'єт Хунг, директор Akamai Technologies у В'єтнамі - Фото: CHI HIEU

Пан Дао В'єт Хунг навів рідкісну історію, коли чат-бот онлайн-продажів автокомпанії переконали продати новий автомобіль лише за 1 долар.

Причина полягає в тому, що під час процесу обміну та переговорів з чат-ботом цей клієнт знайшов спосіб «прокрастися» в базу даних та переконати чат-бота погодитися на вищезазначений запит.

Іншим прикладом є випадок, коли хакери успішно отримали всі конфіденційні документи та організаційні схеми компанії, просто склавши відповідні запитання та надіславши їх внутрішньому чат-боту зі штучним інтелектом.

Від цього ризику пан Дао В'єт Хунг поділився рішенням безпеки на основі штучного інтелекту, щоб сам штучний інтелект міг захистити себе, саме цю форму використовують багато великих підприємств у світі .

Завдяки цьому методу безпеки збережені дані мають кілька рівнів захисту, що ускладнює їх «зараження».

Система безпеки на основі штучного інтелекту може виявити, яка інформація є безпечною, а яка має потенційні ризики атаки, на основі чого буде розроблено швидкий та відповідний план дій...

Повернутися до теми

ПОБЕЧЕНІСТЬ

Джерело: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm