Vid forumet Security Summit 2026 som hölls den 22 maj uppgav Mai Xuan Cuong - chef för Information Security Services Center, Viettel Cyber Security, att den farligaste skillnaden mellan AI-agenter och traditionella LLM:er ligger i deras förmåga att interagera direkt med systemet.
Medan konventionella LLM:er bara tar emot kommandon och returnerar text, har AI-agenter möjlighet att köra shell-kommandon (interagera med operativsystemet via kommandoraden), manipulera filsystem för läsning och skrivning, automatiskt skicka e-postmeddelanden, anropa API:er och kontrollera webbläsare. Denna uppgradering öppnar oavsiktligt upp ett bredare spektrum av attackmöjligheter, vilket går långt utöver vad typiska desinformationskampanjer innebär.
AI-agenter blir ett nytt mål för cyberbrottslingar.
Enligt cybersäkerhetsexperter är det denna förmåga att "agera" som gör AI-agenter till ett nytt mål för cyberbrottslingar.
En av de största riskerna är läckage av företagsdata. För att fungera effektivt måste AI-agenter ofta bearbeta stora mängder intern information, såsom källkod, dokument och e-postmeddelanden. Om dessa data skickas till tredjeparts AI-molnplattformar ökar risken för att konfidentiell information exponeras.
Det har förekommit fall där Samsung-anställda läckt ny källkod via ChatGPT, eller där Meta-anställda oavsiktligt läckt data genom att följa instruktioner från intern AI.
Förutom risken för dataläckor varnar experter också för "indirekt snabb injektion". Hackare kan bädda in skadliga instruktioner i e-postmeddelanden, webbplatser eller dokument för att lura AI-agenter att utföra oavsiktliga åtgärder, som att komma åt intern data eller skicka information till hackaren.
Det fanns ett fall där en angripare gömde morsekod i ett meddelande för att kringgå systemet, vilket gjorde det möjligt för kryptovalutaagenten Grok-Bankrbot att utföra en obehörig pengaöverföring, vilket resulterade i en förlust på 150 000 dollar.
En annan risk härrör från ekosystemet av tillägg för AI-agenter. Många anställda inom företag installerar tillägg från communityn för att utöka AI:ns funktionalitet, men hackare kan utnyttja denna kanal för att sprida skadlig kod. När dessa falska plugins väl har beviljats systemåtkomst kan de stjäla data, tokens eller skapa bakdörrar på enheten.
Enligt Mr. Cuong framträder även trenden med "skugg-AI" då anställda självständigt installerar AI-agenter på sina arbetsdatorer utan att gå via IT-avdelningen. Detta gör det svårt för företag att kontrollera åtkomst och ökar risken för säkerhetsintrång i systemet.
Dessutom kan AI misstolka användarnas avsikter, vilket leder till att kommandon körs som kan orsaka betydande skador för företag. Till exempel kan en AI-agent utföra fel operation eller av misstag radera viktig data om hen beviljas för många behörigheter.
För att minska riskerna rekommenderas organisationer att bygga en flerskiktad säkerhetsmodell istället för att enbart förlita sig på traditionell antivirusprogramvara och att utveckla en lämplig implementeringsplan.
Företag behöver bygga en säkerhetsmodell med flera lager.
Det första steget ett företag behöver ta är hotdetektering. Företag kan använda slutpunkter och webbproxytrafik (mellanliggande servrar som ansluter enheter till internet) för att aggregera och identifiera hot.
Nästa steg är att konfigurera en AI-gateway, som gör den till den enda kontrollpunkten för all AI-åtkomst. Denna gateway kommer att styra överföringen av data till det publika molnet.
Därefter behöver företag implementera ett ytterligare lager av specialiserad kontroll (Guardrail) på sin AI-gateway och andra AI-applikationer för att identifiera skadliga kommandon, förhindra dataläckor och upptäcka obehörig åtkomst eller utnyttjande av systemet.
Nästa steg är att etablera förstärkningar för AI-agenten. Övervakningssystemet vid slutpunkten måste konfigureras för att spåra ovanligt "autonomt beteende". AI-agenten bör drivas i en isolerad miljö med minimal åtkomst för att begränsa risken för spridning om en incident inträffar. Slutligen är regelbunden systemövervakning avgörande.
”Styrning av AI-säkerhet är inte en engångsinstallation, utan en kontinuerlig övervakningsprocess”, konstaterade Cuong.
Hantering av AI-säkerhet kommer att bli ett obligatoriskt krav under den snabba utvecklingen av AI-agenter. Om företag inte är beredda att etablera Zero Trust-säkerhetsmodeller och rigorös övervakning, är det som att överlämna systemnycklarna till en anställd som, trots sin höga kompetens, är mycket mottaglig för manipulation att ge AI-agenter möjlighet att agera.
Källa: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Kommentar (0)