Varování před novým rizikem útoku s využitím open source protokolu pro připojení umělé inteligence

Model Context Protocol (MCP) – open-source protokol pro připojení umělé inteligence, který společnost Anthropic oznámila v roce 2024 – umožňuje modelům s velkým jazykem (LLM) přímo se připojit k externím nástrojům a službám, jako je vyhledávání, správa zdrojového kódu, přístup k API, data CRM, finance nebo cloud. Stejně jako jakýkoli open-source nástroj však lze i MCP zneužít ke škodlivým účelům.

V laboratoři simuloval tým GERT (Gert Emergency Response Team) společnosti Kaspersky scénář, kdy byl na počítači vývojáře nainstalován škodlivý MCP server, který shromažďoval hesla, kreditní karty, kryptoměnové peněženky, API tokeny, cloudové konfigurace a další data. Uživatelé byli snadno oklamáni, protože si nevšimli žádných neobvyklých známek. Ačkoli Kaspersky nezaznamenal žádné reálné incidenty, toto riziko je zcela reálné, a to nejen kvůli krádeži dat, ale také kvůli instalaci zadních vrátek, šíření malwaru nebo vydírání peněz.

Ve studii Kaspersky použil Cursor jako hypotetického klienta s umělou inteligencí, který se připojuje k MCP, jež se mění v útočný nástroj, ale metoda může být použita na jakýkoli LLM. Cursor a Anthropic byly o tom informovány.

Mohamed Ghobashy, specialista na reakci na incidenty v globálním týmu pro reakci na nouzové situace (GERT) společnosti Kaspersky, uvedl: „Útoky na dodavatelský řetězec zůstávají jednou z nejzávažnějších hrozeb dneška. V kontextu silné integrace umělé inteligence do pracovních postupů se firmy snadno uchylují k používání neověřených vlastních MCP stažených z fór. To zvyšuje riziko úniku dat a ukazuje na potřebu vybudovat solidní obranný systém.“

V nové Bílé knize společnost Kaspersky poskytuje podrobnou analýzu technik útoku a protiopatření. Celá zpráva je k dispozici na Securelistu. GERT rovněž předkládá řadu doporučení:

Zaprvé je důležité před použitím důkladně prověřit každý server MCP, zajistit, aby byl naskenovaný a schválený, a udržovat seznam povolených serverů (whitelist).

Za druhé, omezte přístup spuštěním MCP v kontejneru nebo virtuálním počítači, udělením oprávnění pouze nezbytným adresářům a oddělením vývojového a produkčního prostředí, abyste zabránili šíření rizika.

Za třetí, monitorujte neobvyklé chování zaznamenáváním všech výzev a odpovědí, detekcí skrytých instrukcí nebo podivných operací, jako jsou neočekávané příkazy SQL nebo nesprávně odeslaná data.

Kromě toho by firmy měly nasadit bezpečnostní služby Kaspersky, jako je Managed Detection and Response (MDR) nebo Incident Response, aby poskytovaly nepřetržitou ochranu, detekovaly a vyšetřovaly incidenty a podporovaly i jednotky, kterým chybí specializovaný personál.

Podle společnosti Kaspersky bude v éře umělé inteligence pro firmy klíčové udržovat ostražitost, přísně kontrolovat nové nástroje a kombinovat komplexní bezpečnostní řešení, aby se mohly chránit před stále sofistikovanějšími hrozbami pro dodavatelský řetězec.

Zdroj: https://nld.com.vn/canh-bao-nguy-co-tan-cong-moi-loi-dung-giao-thuc-ket-noi-ai-ma-nguon-mo-196250924152722129.htm