Co mogą zrobić firmy, aby nie dać się „zwieść” agentom AI?

DNVN – Sztuczna inteligencja ewoluuje od prostych modeli językowych (LLM), które potrafią jedynie „konwersować”, w agentów AI – „asystentów cyfrowych” – zdolnych do automatycznego wykonywania złożonych zadań, obiecujących stać się w przyszłości potężną cyfrową siłą roboczą. Jednak przyznanie sztucznej inteligencji uprawnień do działania otwiera wiele nowych zagrożeń dla bezpieczeństwa informacji firm.

Podczas forum Security Summit 2026, które odbyło się 22 maja, pan Mai Xuan Cuong – dyrektor Centrum Usług Bezpieczeństwa Informacji Viettel Cyber ​​Security – stwierdził, że największą różnicą między agentami AI a tradycyjnymi LLM jest ich zdolność do bezpośredniej interakcji z systemem.

Podczas gdy konwencjonalne systemy LLM jedynie odbierają polecenia i zwracają tekst, agenci AI mogą wykonywać polecenia powłoki (interakcja z systemem operacyjnym za pośrednictwem wiersza poleceń), manipulować systemami plików w celu odczytu i zapisu, automatycznie wysyłać e-maile, wywoływać API i kontrolować przeglądarki. Ta aktualizacja nieumyślnie otwiera szerszy zakres możliwości ataków, wykraczając daleko poza zakres typowych kampanii dezinformacyjnych.

Pan Mai Xuan Cuong - Dyrektor Centrum Usług Bezpieczeństwa Informacji, Viettel Cyber ​​Security.

Agenci AI stają się nowym celem cyberprzestępców.

Zdaniem ekspertów ds. cyberbezpieczeństwa, to właśnie ta zdolność do „działania” sprawia, że ​​agenci AI stają się nowym celem cyberprzestępców.

Jednym z największych zagrożeń jest wyciek danych przedsiębiorstwa. Aby działać efektywnie, agenci AI często muszą przetwarzać duże ilości informacji wewnętrznych, takich jak kod źródłowy, dokumenty i wiadomości e-mail. Jeśli dane te zostaną przesłane na zewnętrzne platformy chmurowe AI, ryzyko ujawnienia poufnych informacji wzrasta.

Zanotowano przypadki, w których pracownicy Samsunga ujawniali nowy kod źródłowy za pośrednictwem ChatGPT lub gdy pracownicy Meta nieumyślnie ujawniali dane, postępując zgodnie z instrukcjami wewnętrznej sztucznej inteligencji.

Oprócz ryzyka wycieku danych, eksperci ostrzegają również przed „pośrednim wstrzyknięciem natychmiastowym”. Hakerzy mogą umieszczać złośliwe instrukcje w wiadomościach e-mail, stronach internetowych i dokumentach, aby nakłonić agentów AI do wykonania niezamierzonych działań, takich jak uzyskanie dostępu do danych wewnętrznych lub przesłanie informacji hakerowi.

Zanotowano przypadek, w którym atakujący ukrył kod Morse'a w wiadomości, aby ominąć system, co pozwoliło agentowi kryptowalutowemu Grok-Bankrbot na wykonanie nieautoryzowanego przelewu pieniężnego, w wyniku czego stracił 150 000 dolarów.

Kolejne zagrożenie wynika z ekosystemu rozszerzeń dla agentów AI. Wielu pracowników firm instaluje rozszerzenia pochodzące ze społeczności, aby rozszerzyć funkcjonalność sztucznej inteligencji, ale hakerzy mogą wykorzystać ten kanał do rozprzestrzeniania złośliwego oprogramowania. Po uzyskaniu dostępu do systemu, te fałszywe wtyczki mogą kraść dane, tokeny lub tworzyć tylne furtki na urządzeniu.

Według pana Cuonga, pojawia się również trend „Shadow AI”, ponieważ pracownicy samodzielnie instalują agentów AI na swoich komputerach służbowych, bez angażowania działu IT. Utrudnia to firmom kontrolę dostępu i zwiększa ryzyko naruszenia bezpieczeństwa systemów.

Co więcej, sztuczna inteligencja może błędnie interpretować intencje użytkowników, co może prowadzić do wykonywania poleceń, które mogą spowodować poważne szkody dla firm. Na przykład, agent AI może wykonać niewłaściwą operację lub przypadkowo usunąć ważne dane, jeśli otrzyma nadmierne uprawnienia.

Aby ograniczyć ryzyko, organizacjom zaleca się stworzenie wielowarstwowego modelu zabezpieczeń zamiast polegania wyłącznie na tradycyjnym oprogramowaniu antywirusowym oraz opracowanie odpowiedniego planu wdrożenia.

Przedsiębiorstwa muszą stworzyć wielowarstwowy model bezpieczeństwa.

Pierwszym krokiem, jaki musi podjąć firma, jest wykrywanie zagrożeń. Firmy mogą wykorzystywać punkty końcowe i ruch proxy (serwery pośredniczące łączące urządzenia z internetem) do agregowania i identyfikowania zagrożeń.

Następnie musimy skonfigurować bramę AI, która stanie się pojedynczym punktem kontroli dostępu do AI. Brama ta będzie kontrolować transmisję danych do chmury publicznej.

Następnie przedsiębiorstwa muszą wdrożyć dodatkową warstwę specjalistycznej kontroli (Guardrail) w swojej bramie AI i innych aplikacjach AI, aby identyfikować złośliwe polecenia, zapobiegać wyciekom danych i wykrywać nieautoryzowany dostęp lub nadużycia systemu.

Kolejnym krokiem jest ustanowienie wzmocnień dla agenta AI. System monitorowania w punkcie końcowym musi być skonfigurowany tak, aby śledził nietypowe „zachowania autonomiczne”. Agent AI powinien działać w odizolowanym środowisku z minimalnym dostępem, aby ograniczyć ryzyko rozprzestrzeniania się w przypadku wystąpienia incydentu. Wreszcie, niezbędne jest regularne monitorowanie systemu.

„Zarządzanie bezpieczeństwem sztucznej inteligencji nie jest jednorazowym wdrożeniem, lecz ciągłym procesem monitorowania” – stwierdził pan Cuong.

Zarządzanie bezpieczeństwem AI stanie się obowiązkowym wymogiem w okresie dynamicznego rozwoju agentów AI. Jeśli firmy nie są gotowe na wdrożenie modeli bezpieczeństwa Zero Trust i rygorystycznego monitoringu, upoważnienie agentów AI do działania jest jak przekazanie kluczy do systemu pracownikowi, który, choć wysoko wykwalifikowany, jest bardzo podatny na manipulację.

Spokojny

Source: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445