Izrael: Varování, že asistenti s umělou inteligencí se mohou stát škodlivými agenty útočícími na uživatele

Izraelská firma zabývající se kybernetickou bezpečností Zenity odhalila vůbec první zranitelnost „Zero Click“ objevenou ve službě ChatGPT od OpenAI. Tento typ útoku nevyžaduje, aby uživatelé provedli jakoukoli akci, jako je kliknutí na odkaz, otevření souboru nebo provedení jakékoli zamýšlené interakce, ale i tak může získat přístup k účtům a uniknout citlivá data.

Podle reportéra VNA v Tel Avivu pan Mikhail Bergori, spoluzakladatel a technický ředitel společnosti Zenity, přímo vysvětlil, jak hacker potřebuje pouze e-mailovou adresu uživatele k úplné kontrole konverzací – včetně minulého a budoucího obsahu, ke změně účelu konverzace a dokonce k ovládání ChatGPT tak, aby jednal podle přání hackera.

Ve své prezentaci vědci ukázali, že kompromitovaný ChatGPT by se mohl stát „zlomyslným aktérem“, který by mohl nenápadně operovat proti uživatelům. Hackeři by mohli přimět chatbota, aby uživatelům navrhoval stažení virem napadeného softwaru, poskytoval zavádějící obchodní rady nebo přistupoval k souborům uloženým na Disku Google, pokud je uživatelský účet připojen.

Celý proces proběhl bez vědomí uživatele. Zranitelnost byla plně opravena až poté, co Zenity upozornil OpenAI.

Kromě ChatGPT demonstrovala společnost Zenity podobné útoky i proti dalším populárním platformám pro asistenty s umělou inteligencí. V aplikaci Copilot Studio od společnosti Microsoft vědci objevili, jak uniknout celým databázím CRM.

V případě Salesforce Einstein mohou hackeři vytvářet falešné požadavky na služby, aby přesměrovali veškerou komunikaci se zákazníky na e-mailové adresy, které kontrolují.

Google Gemini a Microsoft 365 Copilot se také staly „nepřátelskými aktéry“, kteří prováděli phishingové útoky a únik citlivých informací prostřednictvím e-mailů a událostí v kalendáři.

V jiném příkladu byl nástroj pro vývoj softwaru Cursor, když byl integrován s Jira MCP, zneužit k odcizení přihlašovacích údajů vývojářů prostřednictvím falešných „ticketů“.

Zenity uvedla, že některé společnosti, jako OpenAI a Microsoft, po upozornění rychle vydaly záplaty. Jiné však problém odmítly řešit s argumentem, že se jedná spíše o „prvek návrhu“ než o bezpečnostní zranitelnost.

Velkou výzvou nyní podle Michaila Bergoriho je, že asistenti s umělou inteligencí neplní jen jednoduché úkoly, ale stávají se „digitálními entitami“, které reprezentují uživatele – jsou schopni otevírat složky, odesílat soubory a přistupovat k e-mailům. Varoval, že je to pro hackery jako „ráj“ s mnoha možnostmi zneužití.

Ben Kaliger, spoluzakladatel a generální ředitel společnosti Zenity, zdůraznil, že výzkum společnosti ukazuje, že současné bezpečnostní metody již nejsou vhodné pro způsob, jakým fungují asistenti s umělou inteligencí. Vyzval organizace, aby změnily svůj přístup a investovaly do specializovaných řešení, která by jim umožnila kontrolovat a monitorovat aktivity těchto „agentů“.

Společnost Zenity byla založena v roce 2021. V současné době má společnost po celém světě přibližně 110 zaměstnanců, z nichž 70 pracuje v kanceláři v Tel Avivu. Mezi zákazníky Zenity patří mnoho společností z žebříčku Fortune 100 a dokonce i Fortune 5.

(TTXVN/Vietnam+)

Zdroj: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp