Vážná zranitelnost v ChatGPT a řadě asistentů s umělou inteligencí: Uživatelé jsou podvedeni, informace unikají...

Díky této zranitelnosti mohou hackeři přimět ChatGPT, aby uživatelům navrhoval stažení softwaru obsahujícího viry, poskytoval falešné obchodní rady a dokonce i přístup k souborům na Disku Google...

Zranitelnost „Zero Click“ dokonce umožňuje hackerům ovládat ChatGPT tak, aby se choval podle svých představ – Ilustrační foto: AFP

Izraelská firma zabývající se kybernetickou bezpečností Zenity odhalila první zranitelnost „Zero Click“ objevenou ve službě ChatGPT od OpenAI.

Tento typ útoku nevyžaduje, aby uživatelé provedli žádnou akci, jako je kliknutí na odkaz, otevření souboru nebo jakákoli úmyslná interakce, ale stále může získat přístup k účtům a uniknout citlivá data.

Mikhail Bergori, spoluzakladatel a technický ředitel společnosti Zenity, na vlastní kůži předvedl, jak hacker s pouhou e-mailovou adresou uživatele může převzít úplnou kontrolu nad konverzacemi – včetně minulého i budoucího obsahu, změnit účel konverzace a dokonce manipulovat s ChatGPT tak, aby se choval podle přání hackera.

Ve své prezentaci vědci ukázali, že kompromitovaný ChatGPT by se mohl stát „zlomyslným aktérem“, který skrytě operuje proti uživatelům. Hackeři by mohli přimět ChatGPT, aby uživatelům navrhoval stažení virového softwaru, poskytoval zavádějící obchodní rady nebo přistupoval k souborům uloženým na Disku Google, pokud je uživatelský účet připojen. To vše se děje bez vědomí uživatele.

Zranitelnost byla plně opravena až poté, co společnost Zenity upozornila OpenAI.

Kromě ChatGPT demonstrovala společnost Zenity podobné útoky i proti dalším populárním platformám pro asistenty s umělou inteligencí. V aplikaci Copilot Studio od společnosti Microsoft vědci objevili, jak uniknout celým databázím CRM.

V případě Salesforce Einstein mohou hackeři vytvářet falešné požadavky na služby, aby přesměrovali veškerou komunikaci se zákazníky na e-mailové adresy, které kontrolují.

Google Gemini a Microsoft 365 Copilot se také staly „nepřátelskými aktéry“, kteří prováděli phishingové útoky a únik citlivých informací prostřednictvím e-mailů a událostí v kalendáři.

V jiném příkladu byl nástroj pro vývoj softwaru Cursor, když byl integrován s Jira MCP, zneužit k odcizení přihlašovacích údajů vývojáře prostřednictvím falešných „ticketů“.

Zenity uvedla, že některé společnosti, jako OpenAI a Microsoft, po upozornění rychle vydaly záplaty. Jiné však problém odmítly řešit s argumentem, že se jedná spíše o „prvek návrhu“ než o bezpečnostní zranitelnost.

Velkou výzvou nyní podle Michaila Bergoriho je, že asistenti s umělou inteligencí neplní jen jednoduché úkoly, ale stávají se „digitálními entitami“, které reprezentují uživatele – jsou schopni otevírat složky, odesílat soubory a přistupovat k e-mailům. Varoval, že je to pro hackery jako „ráj“ s tolika možnostmi zneužití.

Spoluzakladatel a generální ředitel společnosti Zenity Ben Kaliger uvedl, že výzkum společnosti ukazuje, že současné bezpečnostní metody již nejsou vhodné pro způsob, jakým fungují asistenti s umělou inteligencí. Vyzval organizace, aby změnily svůj přístup a investovaly do specializovaných řešení pro kontrolu a monitorování aktivit těchto „agentů“.

Společnost Zenity byla založena v roce 2021. V současné době má po celém světě přibližně 110 zaměstnanců, z nichž 70 pracuje v její kanceláři v Tel Avivu. Mezi klienty Zenity patří mnoho společností z žebříčku Fortune 100 a dokonce i Fortune 5.

Zpět k tématu

VNA

Zdroj: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm