Mit tehetnek a vállalkozások annak érdekében, hogy elkerüljék, hogy a mesterséges intelligencia ügynökei „ellenük forduljanak”?

DNVN – A mesterséges intelligencia az egyszerű nyelvi modellekből (LLM), amelyek csak a „beszélgetést” tudják, MI-ügynökökké – „digitális asszisztensekké” – fejlődik, amelyek képesek automatikusan elvégezni az összetett feladatokat, és a jövőben hatékony digitális munkaerővé válhatnak. Azonban a mesterséges intelligencia cselekvési felhatalmazása számos új támadási kockázatot nyit meg, veszélyeztetve a vállalkozások információbiztonságát.

A május 22-én megrendezett Security Summit 2026 fórumon Mai Xuan Cuong, a Viettel Cyber ​​​​Security Információbiztonsági Szolgáltatási Központjának igazgatója kijelentette, hogy a mesterséges intelligencia által vezérelt ügynökök és a hagyományos jogi asszisztensek (LLM-ek) közötti legveszélyesebb különbség a rendszerrel való közvetlen interakció képességében rejlik.

Míg a hagyományos LLM-ek csak parancsokat fogadnak és szöveget adnak vissza, a mesterséges intelligencia által vezérelt ügynökök képesek shell parancsok végrehajtására (az operációs rendszerrel való interakcióba lépés a parancssoron keresztül), fájlrendszerek manipulálására olvasás és írás céljából, e-mailek automatikus küldésére, API-k meghívására és böngészők vezérlésére. Ez a frissítés akaratlanul is szélesebb körű támadási lehetőségeket nyit meg, messze túlmutatva a tipikus dezinformációs kampányok hatókörén.

Mai Xuan Cuong úr - a Viettel Cyber ​​​​Security Információbiztonsági Szolgáltatási Központjának igazgatója.

A mesterséges intelligencia által fejlesztett ügynökök (MI) egyre inkább a kiberbűnözők célpontjává válnak.

Kiberbiztonsági szakértők szerint ez a „cselekvőképesség” teszi a mesterséges intelligencia ügynökeit a kiberbűnözők új célpontjává.

Az egyik legnagyobb kockázat a vállalati adatok kiszivárgása. A hatékony működéshez a mesterséges intelligencia alapú ügynököknek gyakran nagy mennyiségű belső információt, például forráskódot, dokumentumokat és e-maileket kell feldolgozniuk. Ha ezeket az adatokat harmadik féltől származó felhőalapú mesterséges intelligencia platformokra küldik, megnő a bizalmas információk kiszivárgásának kockázata.

Feljegyeztek már olyan eseteket, amikor a Samsung alkalmazottai új forráskódot szivárogtattak ki a ChatGPT-n keresztül, vagy a Meta alkalmazottai véletlenül adatokat szivárogtattak ki a belső mesterséges intelligencia utasításait követve.

Az adatszivárgás kockázata mellett a szakértők a „közvetett azonnali injekcióra” is figyelmeztetnek. A hackerek rosszindulatú utasításokat ágyazhatnak be e-mailekbe, weboldalakba vagy dokumentumokba, hogy rávegyék a mesterséges intelligencia ügynökeit nem kívánt műveletek végrehajtására, például a belső adatok elérésére vagy információk küldésére a hackereknek.

Volt egy eset, amikor egy támadó Morse-kódot rejtett el egy üzenetben, hogy megkerülje a rendszert, lehetővé téve a Grok-Bankrbot kriptovaluta-ügynök számára, hogy jogosulatlan pénzátutalást hajtson végre, ami 150 000 dolláros veszteséget okozott.

Egy másik kockázat a mesterséges intelligencia ügynökeihez tartozó bővítmények ökoszisztémájából ered. Sok vállalat alkalmazottja telepít közösségi bővítményeket a mesterséges intelligencia funkcionalitásának bővítésére, de a hackerek kihasználhatják ezt a csatornát rosszindulatú programok terjesztésére. Miután hozzáférést kapnak a rendszerhez, ezek a hamis bővítmények adatokat, tokeneket lophatnak el, vagy hátsó ajtókat hozhatnak létre az eszközön.

Cuong úr szerint az „árnyék MI” trendje is egyre inkább kibontakozóban van, mivel az alkalmazottak önállóan telepítenek MI-ügynököket a munkahelyi számítógépeikre az IT-osztály közreműködése nélkül. Ez megnehezíti a vállalkozások számára a hozzáférés ellenőrzését, és növeli a rendszerbiztonsági incidensek kockázatát.

Továbbá a mesterséges intelligencia félreértelmezheti a felhasználói szándékokat, ami olyan parancsok végrehajtásához vezethet, amelyek jelentős károkat okozhatnak a vállalkozásoknak. Például egy MI-ügynök rossz műveletet hajthat végre, vagy véletlenül fontos adatokat törölhet, ha túlzott engedélyeket kap.

A kockázatok mérséklése érdekében a szervezeteknek azt tanácsolják, hogy a hagyományos víruskereső szoftverekre való kizárólagos támaszkodás helyett többrétegű biztonsági modellt építsenek ki, és dolgozzanak ki egy megfelelő megvalósítási ütemtervet.

A vállalkozásoknak többrétegű biztonsági modellt kell kiépíteniük.

Az első lépés, amit egy vállalkozásnak meg kell tennie, a fenyegetések észlelése. A vállalkozások végpontokat és webes proxy forgalmat (eszközöket az internethez csatlakoztató köztes szervereket) használhatnak a fenyegetések összesítésére és azonosítására.

Ezután létre kell hoznunk egy mesterséges intelligencia-átjárót, amely egyetlen vezérlőpontként szolgál minden mesterséges intelligencia-hozzáféréshez. Ez az átjáró fogja vezérelni az adatok nyilvános felhőbe történő továbbítását.

Ezt követően a vállalkozásoknak egy további, speciális ellenőrzési réteget (Guardrail) kell bevezetniük az AI-átjárójukon és más AI-alkalmazásaikon a rosszindulatú parancsok azonosítása, az adatszivárgások megelőzése, valamint a rendszerhez való jogosulatlan hozzáférés vagy visszaélések észlelése érdekében.

A következő lépés az MI-ügynök megerősítésének létrehozása. A végponton található monitorozó rendszert úgy kell konfigurálni, hogy nyomon kövesse a szokatlan „autonóm viselkedést”. Az MI-ügynököt elszigetelt környezetben, minimális hozzáféréssel kell működtetni, hogy korlátozzuk a terjedés kockázatát egy esetleges incidens esetén. Végül a rendszeres rendszermonitorozás elengedhetetlen.

„A mesterséges intelligencia biztonsági irányítása nem egyszeri telepítés, hanem folyamatos monitorozási folyamat” – jelentette ki Cuong úr.

A mesterséges intelligencia biztonságkezelése kötelező követelménnyé válik a gyors mesterséges intelligencia ágensek fejlesztésének időszakában. Ha a vállalkozások nincsenek felkészülve a zéró bizalom biztonsági modellek és a szigorú monitorozás bevezetésére, akkor a mesterséges intelligencia ágenseinek felhatalmazása olyan, mintha a rendszerkulcsokat egy olyan alkalmazottnak adnánk át, aki bár magasan képzett, nagyon ki van téve a manipulációnak.

Békés

Forrás: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445