Izrael: Varování, že asistenti s umělou inteligencí se mohou stát škodlivými agenty útočícími na uživatele

Izraelská firma Zenity, která se zabývá kybernetickou bezpečností, právě odhalila první zranitelnost „Zero Click“, která kdy byla objevena ve službě ChatGPT od OpenAI. Tento typ útoku nevyžaduje, aby uživatelé provedli jakoukoli akci, jako je kliknutí na odkaz, otevření souboru nebo úmyslná interakce, ale i tak může získat přístup k účtu a uniknout citlivá data.

Podle zpravodaje VNA v Tel Avivu Michail Bergori, spoluzakladatel a technický ředitel společnosti Zenity, přímo vysvětlil, jak může hacker pouhým znát e-mailovou adresu uživatele a kompletně ovládat konverzace – včetně minulého i budoucího obsahu, měnit účel konverzací a dokonce manipulovat s ChatGPT tak, aby se choval podle přání hackera.

Ve své prezentaci vědci ukázali, že napadený ChatGPT se může proměnit ve „škodlivého agenta“, který nenápadně působí proti uživatelům. Hackeři by mohli způsobit, že chatbot bude uživatelům navrhovat stažení virem napadeného softwaru, nabízet zavádějící obchodní rady nebo přistupovat k souborům uloženým na Disku Google, pokud je uživatelský účet připojen.

Celý proces proběhl bez vědomí uživatele. Zranitelnost byla plně opravena až poté, co Zenity upozornil OpenAI.

Kromě ChatGPT simulovala společnost Zenity také několik podobných útoků zaměřených na další populární platformy pro asistenty s umělou inteligencí. V Microsoft Copilot Studio vědci zjistili, jak by mohly uniknout celé databáze CRM.

V případě Salesforce Einstein mohli hackeři vytvářet falešné požadavky na služby, aby přesměrovali veškerou komunikaci se zákazníky na e-mailové adresy, které měli pod kontrolou.

Google Gemini a Microsoft 365 Copilot se také staly „nepřátelskými agenty“, kteří prováděli phishingové schémata a únik citlivých informací prostřednictvím e-mailů a událostí v kalendáři.

V jiném příkladu byl softwarový vývojářský nástroj Cursor, integrovaný s Jira MCP, zneužit také ke krádeži přihlašovacích údajů programátorů prostřednictvím falešných „ticketů“.

Zenity uvedla, že některé společnosti, jako například OpenAI a Microsoft, po upozornění rychle vydaly záplaty. Existují však i společnosti, které problém odmítly řešit s tvrzením, že zjištěné chování bylo spíše „prvkem návrhu“ než bezpečnostní zranitelností.

Podle Michaila Bergoriho je hlavní výzvou dneška to, že asistenti s umělou inteligencí nejen vykonávají jednoduché úkoly, ale stávají se „digitálními entitami“ zastupujícími uživatele – schopné otevírat složky, odesílat soubory a přistupovat k e-mailům. Varuje, že se jedná o „ráj“ pro hackery s mnoha zranitelnostmi, které lze zneužít.

Ben Kaliger, spoluzakladatel a generální ředitel společnosti Zenity, zdůraznil, že výzkum společnosti ukazuje, že současné bezpečnostní metody již nejsou dostatečné pro fungování asistentů s umělou inteligencí. Vyzval organizace, aby změnily svůj přístup a investovaly do specializovaných řešení pro kontrolu a monitorování aktivit těchto „agentů“.

Společnost Zenity byla založena v roce 2021. V současné době má společnost přibližně 110 zaměstnanců po celém světě, z toho 70 pracuje v její kanceláři v Tel Avivu. Mezi klienty Zenity patří mnoho společností z žebříčku Fortune 100 a dokonce i z žebříčku Fortune 5.

(VNA/Vietnam+)

Zdroj: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp