Хакери можуть отримати дуже конфіденційну інформацію компанії, «спілкуючись» з чат-ботами на базі штучного інтелекту.

За словами експертів з технологій, використовуючи серію складних підказок, хакери можуть проникнути в «конфіденційну» базу даних компанії, не будучи виявленими.

Огляд заходу OpenInfra & Cloud Native Day Vietnam 2025 з темою «Ера цифрового прориву В'єтнаму» - Фото: CHI HIEU

Штучний інтелект (ШІ) пропонує багато переваг і зараз інтегрується багатьма компаніями для обслуговування кінцевих користувачів, таких як співробітники компаній та клієнти. Однак ця інтеграція також може створювати вразливості, які дозволяють хакерам атакувати та красти інформацію із систем зберігання даних.

«Наразі існує багато методів атаки на моделі штучного інтелекту, найпоширенішим з яких є «отруєння контентом» – тип атаки, який здається «невидимим» для традиційних систем захисту інформації», – попередив пан Дао В’єт Хунг, директор Akamai Technologies Vietnam, на заході OpenInfra & Cloud Native Day Vietnam 2025, що відбувся 26 липня в Ханої .

Захід було організовано В'єтнамською інтернет-асоціацією (VIA) у співпраці з В'єтнамською спільнотою відкритої інфраструктури (VietOpenInfra), В'єтнамським клубом хмарних обчислень та центрів обробки даних (VNCDC) за підтримки Міністерства науки і технологій .

90% підприємств використовують платформи або програмне забезпечення з відкритим кодом.

У своєму вступному слові пан Ву Тхе Бінь, віцепрезидент і генеральний секретар В'єтнамської інтернет-асоціації, наголосив на важливості відкритої інфраструктури та відкритого коду в процесі національної цифрової трансформації.

У контексті швидкозмінних глобальних технологій пан Бінь заявив, що відкрита інфраструктура продовжує розвиватися як основа для інновацій, оскільки понад 90% підприємств використовують відкриті платформи або програмне забезпечення в різних формах.

Згідно з опитуванням Red Hat (2024), 82% лідерів у сфері технологій вважають відкриті платформи та програмне забезпечення ключем до просування цифрової трансформації та прискорення інновацій. Такі платформи, як Kubernetes, OpenStack, Linux, Ceph та OpenTelemetry, відіграють дедалі більшу роль у роботі систем штучного інтелекту, Інтернету речей, 5G/6G та хмарних нативних технологій.

«Десять років тому хмару можна було б сплутати з хмарою в небі, а відкритий код міг би звучати як «секретна техніка бойових мистецтв». Але сьогодні ми тут, пов’язані зі світовою спільнотою відкритої інфраструктури у понад 180 країнах, працюючи разом, щоб перетворити рядки коду на рушійну силу інновацій», – поділився пан Ву Тхе Бінь.

Чат-боти зі штучним інтелектом – «вузьке вікно» для хакерів для проникнення в системи.

«Наразі багато компаній активно використовують переваги відкритих, адаптивних платформ з інтегрованими системами, такими як чат-боти зі штучним інтелектом, для підвищення ефективності роботи та покращення взаємодії з користувачем».

Саме з цього моменту виникає багато методів атак, спрямованих на моделі штучного інтелекту, включаючи атаки «отруєння контентом», попередив Дао В'єт Хунг, директор Akamai Technologies Vietnam.

Він зазначив, що в'єтнамські компанії, під час впровадження штучного інтелекту, все ще не мають достатніх знань про цей тип атаки.

Відповідно, зловмисники використовують метод багаторазового запитування та перенавчання моделей ШІ неправдивої інформації, що призводить до інформаційного «отруєння».

Якщо інформація в хмарній системі була «заражена», але залишається невиявленою та продовжує використовуватися, вона надаватиме неточну інформацію або використовуватиме цю вразливість для доступу до бази даних з метою крадіжки інформації.

Пан Дао В'єт Хунг, директор Akamai Technologies у В'єтнамі - Фото: CHI HIEU

Пан Дао В'єт Хунг навів незвичайні історії, як-от коли чат-бот з онлайн-продажів автомобільної компанії вмовили продати новий автомобіль лише за 1 долар.

Причина полягає в тому, що під час обміну та узгодження з чат-ботом цьому клієнту вдалося «обігти» базу даних та переконати чат-бота погодитися на запит.

Інший приклад показує, як хакер успішно отримує всі конфіденційні документи та організаційні схеми компанії, просто складаючи відповідні запитання та надсилаючи їх внутрішньому чат-боту зі штучним інтелектом.

Виходячи з цього ризику, пан Дао В'єт Хунг поділився рішенням безпеки на основі штучного інтелекту, де штучний інтелект захищає інші системи, метод, який використовується багатьма великими компаніями по всьому світу .

Завдяки цьому методу безпеки збережені дані мають кілька рівнів захисту, що ускладнює їх «зараження».

Системи безпеки на основі штучного інтелекту можуть визначати, яка інформація є безпечною, а яка становить потенційний ризик атаки, а потім вживати швидких та відповідних заходів...

Повертаючись до теми

Синівська шанобливість

Джерело: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm