Hackeři se mohou dostat k přísně tajným firemním informacím „svěřením se“ chatbotovi s umělou inteligencí

Podle technologických expertů mohou hackeři pomocí série sofistikovaných pokynů proniknout do „důvěrné“ databáze společnosti, aniž by byli odhaleni.

Přehled akce OpenInfra & Cloud Native Day Vietnam 2025 s tématem „Éra digitálního průlomu Vietnamu“ - Foto: CHI HIEU

Umělá inteligence (AI) přináší mnoho hodnot, zejména nyní, kdy ji mnoho podniků integruje do služeb koncovým uživatelům, jako jsou zaměstnanci firem, zákazníci... Odtud se systémy chatbotů integrovaných s AI mohou stát „úzkými dveřmi“, které pomáhají hackerům útočit a krást informace o systémech ukládání dat.

„V současné době existuje mnoho metod útoku na modely umělé inteligence, z nichž nejběžnější je ‚otrava obsahu‘, která se zdá být pro tradiční systémy ochrany informací ‚neviditelná‘,“ varoval pan Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam, na akci OpenInfra & Cloud Native Day Vietnam 2025, která se konala 26. července v Hanoji .

Akci uspořádala Vietnamská internetová asociace (VIA) ve spolupráci s Vietnamskou komunitou otevřené infrastruktury (VietOpenInfra), Vietnamským klubem cloudových výpočtů a datových center (VNCDC) a s podporou Ministerstva vědy a technologie .

90 % firem používá otevřené platformy nebo software

Ve svém úvodním projevu pan Vu The Binh – viceprezident a generální tajemník Vietnamské internetové asociace – zdůraznil význam otevřené infrastruktury a otevřeného zdrojového kódu v procesu digitální transformace země.

V kontextu rychlých změn v globálních technologiích pan Binh uvedl, že otevřená infrastruktura se nadále rozvíjí jako základ pro inovace, když více než 90 % podniků používá otevřené platformy nebo software v mnoha formách.

Podle průzkumu společnosti Red Hat (2024) považuje 82 % technologických lídrů otevřené platformy a software za klíč k digitální transformaci a urychlení inovací. Platformy jako Kubernetes, OpenStack, Linux, Ceph a OpenTelemetry hrají stále důležitější roli v provozování systémů AI, IoT, 5G/6G a také Cloud Native.

„Před 10 lety si cloud mohl být splést s mraky na obloze a open source zněl jako ‚tajemství bojových umění‘. Ale dnes jsme tady, propojujeme se s globální komunitou otevřené infrastruktury ve více než 180 zemích a společně proměňujeme řádky kódu v hnací sílu inovací,“ sdělil pan Vu The Binh.

AI Chatbot - „úzká dvířka“ pro hackery k průniku do systému

„V současné době mnoho firem silně využívá efektivitu otevřených, responzivních platforem, které integrují systémy, jako jsou chatboti s umělou inteligencí, aby pomohly zlepšit pracovní výkon a uživatelskou zkušenost.“

Také odtud vyplývá mnoho metod útoku na modely umělé inteligence, včetně útoků „otravy obsahu“, varoval pan Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam.

Poznamenal, že vietnamské firmy při nasazování umělé inteligence o této formě útoku stále mnoho nevědí.

Zločinci proto používají metodu neustálého dotazování se a přeučování modelu umělé inteligence na nepravdivé informace, což způsobuje informační „otravu“.

Pokud jsou informace v cloudovém systému „infikovány“ a nejsou detekovány a nadále se používají, budou poskytovat nesprávné informace nebo se tato zranitelnost využije k propašování do databáze za účelem získání informací.

Pan Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam - Foto: CHI HIEU

Pan Dao Viet Hung uvedl vzácný příběh, kdy byl online prodejní chatbot automobilové společnosti přesvědčen, aby prodal nové auto za pouhý 1 dolar.

Důvodem je, že během procesu výměny a vyjednávání s chatbotem si tento zákazník našel způsob, jak se „vplížit“ do databáze a přesvědčit chatbota, aby s výše uvedenou žádostí souhlasil.

Dalším příkladem je situace, kdy se hackerovi podařilo získat všechny důvěrné dokumenty a organizační schémata společnosti pouhým sestavením správných otázek a jejich odesláním internímu chatbotovi s umělou inteligencí.

Z tohoto rizika se pan Dao Viet Hung podělil o bezpečnostní řešení s využitím umělé inteligence, aby umělá inteligence mohla chránit ostatní. Tuto formu používá mnoho velkých podniků po celém světě .

Díky této metodě zabezpečení jsou uložená data chráněna několika vrstvami ochrany, což ztěžuje jejich „infekci“.

Bezpečnostní systém s umělou inteligencí dokáže rozpoznat, které informace jsou bezpečné a které představují potenciální riziko útoku, na základě čehož bude mít rychlý a vhodný plán řešení...

Zpět k tématu

Synovská zbožnost

Zdroj: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm