Hackeři mohou získat vysoce důvěrné firemní informace „chatováním“ s chatboty s umělou inteligencí.

Podle technologických expertů mohou hackeři pomocí série sofistikovaných pokynů infiltrovat „důvěrnou“ databázi společnosti, aniž by byli odhaleni.

Přehled akce OpenInfra & Cloud Native Day Vietnam 2025 s tématem „Vietnamská digitální průlomová éra“ - Foto: CHI HIEU

Umělá inteligence (AI) nabízí mnoho výhod a v současné době ji mnoho firem integruje, aby sloužila koncovým uživatelům, jako jsou zaměstnanci firem a zákazníci. Tato integrace však může také vytvářet zranitelnosti, které hackerům umožňují útočit a krást informace ze systémů pro ukládání dat.

„V současné době existuje mnoho metod útoku na modely umělé inteligence, nejběžnější je ‚otrava obsahu‘, což je typ útoku, který se pro tradiční systémy ochrany informací jeví jako ‚neviditelný‘,“ varoval pan Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam, na akci OpenInfra & Cloud Native Day Vietnam 2025, která se konala 26. července v Hanoji .

Akci uspořádala Vietnamská internetová asociace (VIA) ve spolupráci s Vietnamskou komunitou otevřené infrastruktury (VietOpenInfra), Vietnamským klubem cloudových výpočtů a datových center (VNCDC) a s podporou Ministerstva vědy a technologie .

90 % firem používá platformy nebo software s otevřeným zdrojovým kódem.

Ve svém úvodním projevu pan Vu The Binh, viceprezident a generální tajemník Vietnamské internetové asociace, zdůraznil význam otevřené infrastruktury a open source v procesu digitální transformace země.

V kontextu rychle se měnících globálních technologií pan Binh uvedl, že otevřená infrastruktura se nadále rozvíjí jako základ pro inovace, přičemž více než 90 % podniků využívá otevřené platformy nebo software v různých formách.

Podle průzkumu společnosti Red Hat (2024) považuje 82 % technologických lídrů otevřené platformy a software za klíč k digitální transformaci a urychlení inovací. Platformy jako Kubernetes, OpenStack, Linux, Ceph a OpenTelemetry hrají stále větší roli v provozu systémů umělé inteligence, internetu věcí, 5G/6G a cloudových nativních systémů.

„Před deseti lety by se cloud mohl splést s mrakem na obloze a open source by mohl znít jako ‚tajná technika bojových umění‘. Ale dnes jsme tady, propojujeme se s globální komunitou otevřené infrastruktury ve více než 180 zemích a společně pracujeme na transformaci řádků kódu v hnací sílu inovací,“ sdělil pan Vu The Binh.

Chatboti s umělou inteligencí – „úzké okno“ pro hackery, aby se mohli infiltrovat do systémů.

„V současné době mnoho firem silně využívá výhod otevřených, responzivních platforem s integrovanými systémy, jako jsou chatboti s umělou inteligencí, ke zlepšení efektivity práce a zlepšení uživatelské zkušenosti.“

Právě z tohoto bodu se objevuje mnoho metod útoku zaměřených na modely umělé inteligence, včetně útoků typu „otrava obsahem“, varoval Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam.

Poznamenal, že vietnamské firmy při nasazování umělé inteligence stále postrádají dostatečné znalosti o tomto typu útoku.

Zlomyslní aktéři proto používají metodu opakovaného dotazování a přeučování modelů umělé inteligence na nepravdivé informace, což způsobuje informační „otravu“.

Pokud jsou informace v cloudovém systému „infikovány“, ale zůstanou nezjištěny a nadále se používají, budou poskytovat nepřesné informace nebo zneužívat tuto zranitelnost k přístupu k databázi za účelem krádeže informací.

Pan Dao Viet Hung, ředitel společnosti Akamai Technologies Vietnam - Foto: CHI HIEU

Pan Dao Viet Hung uvedl neobvyklé příběhy, například když byl online prodejní chatbot automobilové společnosti přesvědčen, aby prodal nové auto za pouhý 1 dolar.

Důvodem je, že během procesu výměny a vyjednávání s chatbotem se tomuto zákazníkovi podařilo „obejít“ databázi a přesvědčit chatbota, aby s požadavkem souhlasil.

Další příklad ukazuje hackera, kterému se podařilo získat všechny důvěrné dokumenty a organizační schémata společnosti pouhým vytvořením vhodných otázek a jejich odesláním internímu chatbotovi s umělou inteligencí.

Na základě tohoto rizika pan Dao Viet Hung sdílel bezpečnostní řešení s využitím umělé inteligence, kde umělá inteligence chrání ostatní umělou inteligenci, což je metoda používaná mnoha velkými podniky po celém světě .

Díky této metodě zabezpečení uložená data zahrnují několik vrstev ochrany, což ztěžuje jejich „infekci“.

Bezpečnostní systémy s umělou inteligencí dokáží detekovat, které informace jsou bezpečné a které představují potenciální riziko útoku, a poté podniknout rychlé a vhodné kroky...

Zpět k tématu

SYNOVSKÁ ZBOŽNOST

Zdroj: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm