Advarsel om ny angrepsrisiko, utnytter åpen kildekode AI-tilkoblingsprotokoll

Model Context Protocol (MCP) – en åpen kildekode-protokoll for AI-tilkobling, annonsert av Anthropic i 2024 – lar store språkmodeller (LLM-er) koble seg direkte til eksterne verktøy og tjenester som søk, kildekodehåndtering, API-tilgang, CRM-data, finans eller skyen. Imidlertid, som alle åpen kildekode-verktøy, kan MCP utnyttes til ondsinnede formål.

I laboratoriet simulerte Kasperskys Gert Emergency Response Team (GERT) et scenario der en ondsinnet MCP-server ble installert på en utviklers datamaskin, og samlet inn passord, kredittkort, kryptovaluta-lommebøker, API-tokens, skykonfigurasjoner og andre data. Brukere ble lett lurt fordi de ikke la merke til noen uvanlige tegn. Selv om Kaspersky ikke har registrert noen hendelser i virkeligheten, er denne risikoen fullt mulig, ikke bare for å stjele data, men også for å installere bakdører, spre skadelig programvare eller presse penger.

I studien brukte Kaspersky Cursor som en hypotetisk AI-klient som kobler seg til en MCP som blir omgjort til et angrepsverktøy, men metoden kan brukes på enhver LLM. Cursor og Anthropic har blitt varslet.

Mohamed Ghobashy, Incident Response Specialist hos Kasperskys Global Emergency Response Team (GERT), sa: «Leverandørkjedeangrep er fortsatt en av de mest alvorlige truslene i dag. I en sammenheng med at AI er sterkt integrert i arbeidsflyter, blir bedrifter lett selvtilfredse når de bruker ubekreftede tilpassede MCP-er lastet ned fra forum. Dette øker risikoen for datalekkasje og viser behovet for å bygge et solid forsvarssystem.»

I den nye hvitboken gir Kaspersky en detaljert analyse av angrepsteknikkene og mottiltakene. Hele rapporten er tilgjengelig på Securelist. GERT kommer også med en rekke anbefalinger:

Først er det viktig å grundig sjekke hver MCP-server før bruk, sørge for at den er skannet og godkjent, og opprettholde en hviteliste over autentiserte servere.

For det andre, begrens tilgangen ved å kjøre MCP i en container eller virtuell maskin, gi tillatelser kun til nødvendige kataloger og skille utviklings- og produksjonsmiljøer for å forhindre at risikoen sprer seg.

For det tredje, overvåk uvanlig oppførsel ved å logge alle ledetekster og svar, og oppdage skjulte instruksjoner eller merkelige operasjoner som uventede SQL-kommandoer eller feilaktig sendte data.

I tillegg bør bedrifter ta i bruk Kasperskys sikkerhetstjenester som Managed Detection and Response (MDR) eller Incident Response, for å gi kontinuerlig beskyttelse, oppdage og undersøke hendelser, og støtte selv enheter som mangler spesialisert personell.

Ifølge Kaspersky vil det i AI-æraen være nøkkelen til at bedrifter kan beskytte seg mot stadig mer sofistikerte trusler i forsyningskjeden å opprettholde årvåkenhet, streng kontroll av nye verktøy og kombinere omfattende sikkerhetsløsninger.

Kilde: https://nld.com.vn/canh-bao-nguy-co-tan-cong-moi-loi-dung-giao-thuc-ket-noi-ai-ma-nguon-mo-196250924152722129.htm