Hva kan bedrifter gjøre for å unngå å bli «vendt mot» av AI-agenter?

DNVN – AI utvikler seg fra enkle språkmodeller (LLM-er) som bare vet hvordan de skal «konversere» til AI-agenter – «digitale assistenter» – som er i stand til å utføre komplekse oppgaver automatisk, og som lover å bli en kraftig digital arbeidsstyrke i fremtiden. Å gi AI fullmakt til å handle åpner imidlertid for mange nye angrepsrisikoer, noe som truer informasjonssikkerheten til bedrifter.

På Security Summit 2026-forumet som ble holdt 22. mai, uttalte Mai Xuan Cuong – direktør for Information Security Services Center i Viettel Cyber ​​Security – at den farligste forskjellen mellom AI-agenter og tradisjonelle LLM-er ligger i deres evne til å samhandle direkte med systemet.

Mens konvensjonelle LLM-er bare mottar kommandoer og returnerer tekst, har AI-agenter muligheten til å utføre skallkommandoer (samhandle med operativsystemet via kommandolinjen), manipulere filsystemer for lesing og skriving, sende e-poster automatisk, kalle API-er og kontrollere nettlesere. Denne oppgraderingen åpner utilsiktet opp et bredere spekter av angrepsmuligheter, og går langt utover omfanget av typiske desinformasjonskampanjer.

Mr. Mai Xuan Cuong – direktør for informasjonssikkerhetstjenestesenteret, Viettel Cyber ​​Security.

AI-agenter er i ferd med å bli et nytt mål for nettkriminelle.

Ifølge cybersikkerhetseksperter er det denne evnen til å «handle» som gjør AI-agenter til et nytt mål for nettkriminelle.

En av de største risikoene er lekkasje av bedriftsdata. For å operere effektivt må AI-agenter ofte behandle store mengder intern informasjon som kildekode, dokumenter og e-poster. Hvis disse dataene sendes til tredjeparts skybaserte AI-plattformer, øker risikoen for at konfidensiell informasjon eksponeres.

Det har vært registrerte tilfeller av Samsung-ansatte som har lekket ny kildekode via ChatGPT, eller Meta-ansatte som utilsiktet har lekket data ved å følge instruksjoner fra intern AI.

I tillegg til risikoen for datalekkasjer, advarer eksperter også om «indirekte umiddelbar injeksjon». Hackere kan legge inn ondsinnede instruksjoner i e-poster, nettsteder eller dokumenter for å lure AI-agenter til å utføre utilsiktede handlinger, for eksempel å få tilgang til interne data eller sende informasjon til hackeren.

Det var et tilfelle der en angriper skjulte morsekode i en melding for å omgå systemet, slik at kryptovalutaagenten Grok-Bankrbot kunne utføre en uautorisert pengeoverføring, noe som resulterte i et tap på 150 000 dollar.

En annen risiko stammer fra økosystemet av utvidelser for AI-agenter. Mange ansatte i bedrifter installerer utvidelser fra fellesskapet for å utvide funksjonaliteten til AI-en, men hackere kan utnytte denne kanalen til å spre skadelig programvare. Når de har fått systemtilgang, kan disse falske programtilleggene stjele data, tokens eller lage bakdører på enheten.

Ifølge Cuong dukker også trenden med «skygge-AI» opp ettersom ansatte selvstendig installerer AI-agenter på arbeidsdatamaskinene sine uten å gå gjennom IT-avdelingen. Dette gjør det vanskelig for bedrifter å kontrollere tilgang og øker risikoen for sikkerhetsbrudd i systemet.

Videre kan AI feiltolke brukerens intensjoner, noe som fører til utførelse av kommandoer som kan forårsake betydelig skade for bedrifter. For eksempel kan en AI-agent utføre feil operasjon eller ved et uhell slette viktige data hvis vedkommende får for mange tillatelser.

For å redusere risikoer anbefales organisasjoner å bygge en flerlags sikkerhetsmodell i stedet for å stole utelukkende på tradisjonell antivirusprogramvare, og å utvikle en passende implementeringsplan.

Bedrifter må bygge en flerlags sikkerhetsmodell.

Det første trinnet en bedrift må ta er trusseldeteksjon. Bedrifter kan bruke endepunkter og webproxy-trafikk (mellomservere som kobler enheter til Internett) for å samle og identifisere trusler.

Deretter må vi sette opp en AI-gateway, som gjør den til det eneste kontrollpunktet for all AI-tilgang. Denne gatewayen vil kontrollere overføringen av data til den offentlige skyen.

Deretter må bedrifter implementere et ekstra lag med spesialisert kontroll (Guardrail) på sin AI-gateway og andre AI-applikasjoner for å identifisere ondsinnede kommandoer, forhindre datalekkasjer og oppdage uautorisert tilgang eller utnyttelse av systemet.

Neste steg er å etablere forsterkninger for AI-agenten. Overvåkingssystemet på endepunktet må konfigureres til å spore uvanlig «autonom atferd». AI-agenten bør opereres i et isolert miljø med minimal tilgang for å begrense risikoen for spredning hvis en hendelse inntreffer. Til slutt er regelmessig systemovervåking avgjørende.

«Sikkerhetsstyring for kunstig intelligens er ikke en engangsutplassering, men en kontinuerlig overvåkingsprosess», uttalte Cuong.

Sikkerhetsstyring for AI vil bli et obligatorisk krav i perioden med rask utvikling av AI-agenter. Hvis bedrifter ikke er forberedt på å etablere sikkerhetsmodeller med null tillit og streng overvåking, er det å gi AI-agenter mulighet til å handle som å overlate systemnøklene til en ansatt som, selv om han er svært dyktig, er svært utsatt for manipulasjon.

Fredelig

Kilde: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445