Хакери можуть отримати надсекретну інформацію компанії, «довірливо» звертаючись до чат-бота зі штучним інтелектом

За словами експертів з технологій, використовуючи серію складних підказок, хакери можуть проникнути в «конфіденційну» базу даних компанії, не будучи виявленими.

Огляд заходу OpenInfra & Cloud Native Day Vietnam 2025 на тему «Ера цифрового прориву В'єтнаму» – Фото: CHI HIEU

Штучний інтелект (ШІ) приносить багато цінностей, особливо зараз, коли його інтегрують багато компаній для обслуговування кінцевих користувачів, таких як співробітники компаній, клієнти... Звідси системи чат-ботів, інтегровані зі ШІ, можуть стати «вузькими дверима», що допомагають хакерам атакувати та красти інформацію в системах зберігання даних.

«Наразі існує багато методів атаки на моделі штучного інтелекту, найпоширенішим з яких є «отруєння контентом», яке, здається, «невидиме» для традиційних систем захисту інформації», – попередив пан Дао В’єт Хунг, директор Akamai Technologies Vietnam, на заході OpenInfra & Cloud Native Day Vietnam 2025, що відбувся 26 липня в Ханої .

Захід було організовано В'єтнамською інтернет-асоціацією (VIA) у співпраці з В'єтнамською спільнотою відкритої інфраструктури (VietOpenInfra), В'єтнамським клубом хмарних обчислень та центрів обробки даних (VNCDC) за підтримки Міністерства науки і технологій .

90% підприємств використовують відкриті платформи або програмне забезпечення

У своїй вступній промові пан Ву Тхе Бінь, віцепрезидент і генеральний секретар В'єтнамської інтернет-асоціації, наголосив на важливості відкритої інфраструктури та відкритого вихідного коду в процесі національної цифрової трансформації.

У контексті швидких змін у світових технологіях пан Бінь зазначив, що відкрита інфраструктура продовжує розвиватися як основа для інновацій, коли понад 90% підприємств використовують відкриті платформи або програмне забезпечення в різних формах.

Згідно з опитуванням Red Hat (2024), 82% лідерів у сфері технологій вважають відкриті платформи та програмне забезпечення ключем до просування цифрової трансформації та прискорення інновацій. Такі платформи, як Kubernetes, OpenStack, Linux, Ceph, OpenTelemetry, відіграють дедалі важливішу роль в експлуатації систем штучного інтелекту, Інтернету речей, 5G/6G, а також Cloud Native.

«10 років тому хмару можна було сплутати з хмарами на небі, а відкритий код звучав як «секрет бойових мистецтв». Але сьогодні ми тут, об’єднуємося зі світовою спільнотою відкритої інфраструктури у понад 180 країнах, разом перетворюючи рядки коду на рушійну силу інновацій», – поділився пан Ву Тхе Бінь.

ШІ-чатбот – «вузькі двері» для проникнення хакерів у систему

«Наразі багато компаній активно застосовують ефективність відкритих, адаптивних платформ, які інтегрують такі системи, як чат-боти зі штучним інтелектом, щоб покращити продуктивність роботи та покращити взаємодію з користувачами».

Також звідси випливає багато методів атаки на моделі штучного інтелекту, включаючи атаки «отруєння контентом», попередив пан Дао В'єт Хунг, директор Akamai Technologies Vietnam.

Він зазначив, що в'єтнамські компанії під час впровадження штучного інтелекту досі мало знають про цю форму атаки.

Відповідно, зловмисники використовують метод постійного запитування та перенавчання моделі ШІ неправдивої інформації, що призводить до інформаційного «отруєння».

Якщо інформація в хмарній системі була «заражена», не виявляється та продовжує використовуватися, вона надаватиме невірну інформацію або використовуватиме цю вразливість для проникнення в базу даних з метою отримання інформації.

Пан Дао В'єт Хунг, директор Akamai Technologies у В'єтнамі - Фото: CHI HIEU

Пан Дао В'єт Хунг навів рідкісну історію, коли чат-боту з онлайн-продажів автокомпанії вдалося переконати продати новий автомобіль лише за 1 долар.

Причина полягає в тому, що під час процесу обміну та переговорів з чат-ботом цей клієнт знайшов спосіб «прокрастися» в базу даних та переконати чат-бота погодитися на вищезазначений запит.

Інший приклад — коли хакер успішно отримав усі конфіденційні документи та організаційні схеми компанії, просто склавши правильні запитання та надіславши їх внутрішньому чат-боту зі штучним інтелектом.

Від цього ризику пан Дао В'єт Хунг поділився рішенням безпеки на основі штучного інтелекту, щоб штучний інтелект міг захистити себе, це форма, яку використовують багато великих підприємств у світі .

Завдяки цьому методу безпеки збережені дані мають кілька рівнів захисту, що ускладнює їх «зараження».

Система безпеки на основі штучного інтелекту може виявити, яка інформація є безпечною, а яка має потенційні ризики атаки, на основі чого вона матиме швидкий та відповідний план дій...

Повернутися до теми

Синівська шанобливість

Джерело: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm