Tijdens het Security Summit 2026-forum op 22 mei verklaarde de heer Mai Xuan Cuong, directeur van het Information Security Services Center van Viettel Cyber Security, dat het gevaarlijkste verschil tussen AI-agenten en traditionele LLM's schuilt in hun vermogen om direct met het systeem te interageren.
Waar conventionele LLM's alleen commando's ontvangen en tekst retourneren, kunnen AI-agenten shellcommando's uitvoeren (via de commandoregel met het besturingssysteem communiceren), bestandssystemen manipuleren voor lezen en schrijven, automatisch e-mails verzenden, API's aanroepen en browsers besturen. Deze upgrade opent onbedoeld een breder scala aan aanvalsmogelijkheden, die veel verder reiken dan de gebruikelijke desinformatiecampagnes.
AI-agenten worden een nieuw doelwit voor cybercriminelen.
Volgens cybersecurity-experts is het juist dit vermogen om te "handelen" dat AI-agenten tot een nieuw doelwit voor cybercriminelen maakt.
Een van de grootste risico's is het lekken van bedrijfsgegevens. Om effectief te functioneren, moeten AI-agenten vaak grote hoeveelheden interne informatie verwerken, zoals broncode, documenten en e-mails. Als deze gegevens naar externe cloud-AI-platformen worden verzonden, neemt het risico toe dat vertrouwelijke informatie openbaar wordt gemaakt.
Er zijn gevallen bekend van Samsung-medewerkers die nieuwe broncode hebben gelekt via ChatGPT, of van Meta-medewerkers die per ongeluk gegevens hebben gelekt door instructies van interne AI op te volgen.
Naast het risico op datalekken waarschuwen experts ook voor "indirecte promptinjectie". Hackers kunnen kwaadaardige instructies in e-mails, websites of documenten verwerken om AI-systemen te verleiden tot onbedoelde acties, zoals toegang tot interne gegevens of het versturen van informatie naar de hacker.
Er was een geval waarbij een aanvaller morsecode in een bericht verborgen hield om het systeem te omzeilen, waardoor de cryptovaluta-agent Grok-Bankrbot een ongeautoriseerde geldoverdracht kon uitvoeren, met een verlies van $150.000 tot gevolg.
Een ander risico komt voort uit het ecosysteem van extensies voor AI-agenten. Veel werknemers binnen bedrijven installeren extensies uit de community om de functionaliteit van de AI uit te breiden, maar hackers kunnen dit kanaal misbruiken om malware te verspreiden. Zodra ze toegang tot het systeem hebben gekregen, kunnen deze nep-plugins gegevens en tokens stelen of backdoors op het apparaat creëren.
Volgens de heer Cuong is er ook sprake van een opkomende trend van 'schaduw-AI', waarbij werknemers zelfstandig AI-agents op hun werkcomputers installeren zonder tussenkomst van de IT-afdeling. Dit maakt het voor bedrijven lastig om de toegang te controleren en verhoogt het risico op inbreuken op de systeembeveiliging.
Bovendien kan AI de intenties van gebruikers verkeerd interpreteren, wat kan leiden tot de uitvoering van commando's die aanzienlijke schade aan bedrijven kunnen veroorzaken. Een AI-agent kan bijvoorbeeld de verkeerde handeling uitvoeren of per ongeluk belangrijke gegevens verwijderen als er te veel rechten aan worden toegekend.
Om risico's te beperken, wordt organisaties aangeraden een meerlaags beveiligingsmodel op te bouwen in plaats van uitsluitend te vertrouwen op traditionele antivirussoftware, en een geschikt implementatieplan te ontwikkelen.
Bedrijven moeten een meerlaags beveiligingsmodel opbouwen.
De eerste stap die een bedrijf moet zetten, is het detecteren van bedreigingen. Bedrijven kunnen endpoints en webproxyverkeer (tussenliggende servers die apparaten met internet verbinden) gebruiken om bedreigingen te verzamelen en te identificeren.
Vervolgens moeten we een AI-gateway opzetten, die fungeert als centraal controlepunt voor alle AI-toegang. Deze gateway regelt de gegevensoverdracht naar de publieke cloud.
Vervolgens moeten bedrijven een extra laag gespecialiseerde controle (Guardrail) implementeren op hun AI-gateway en andere AI-toepassingen om kwaadwillige commando's te identificeren, datalekken te voorkomen en ongeautoriseerde toegang tot of misbruik van het systeem te detecteren.
De volgende stap is het opzetten van versterkingen voor de AI-agent. Het monitoringsysteem aan de eindzijde moet worden geconfigureerd om ongebruikelijk "autonoom gedrag" te registreren. De AI-agent moet in een geïsoleerde omgeving met minimale toegang worden gebruikt om het risico op verspreiding te beperken als er zich een incident voordoet. Tot slot is regelmatige systeemmonitoring essentieel.
"Het beheer van AI-beveiliging is geen eenmalige implementatie, maar een continu monitoringproces," aldus de heer Cuong.
Tijdens de snelle ontwikkeling van AI-agenten wordt het beheer van AI-beveiliging een absolute noodzaak. Als bedrijven niet bereid zijn om Zero Trust-beveiligingsmodellen en strenge monitoring in te voeren, is het overdragen van de controle over het systeem aan een zeer bekwame medewerker die erg vatbaar is voor manipulatie, terwijl ze AI-agenten de ruimte geven om zelfstandig te handelen.
Bron: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Reactie (0)