Ce pot face companiile pentru a evita să fie „întoarse împotriva” agenților de inteligență artificială?

DNVN - IA evoluează de la modele lingvistice simple (LLM) care știu doar cum să „converseze” în agenți IA – „asistenți digitali” – capabili să îndeplinească automat sarcini complexe, promițând să devină o forță de muncă digitală puternică în viitor. Cu toate acestea, acordarea autorității IA de a acționa deschide multe noi riscuri de atac, amenințând securitatea informațiilor companiilor.

La forumul Security Summit 2026, desfășurat pe 22 mai, dl. Mai Xuan Cuong - Directorul Centrului de Servicii de Securitate a Informațiilor, Viettel Cyber ​​​​Security, a declarat că cea mai periculoasă diferență dintre agenții AI și LLM-urile tradiționale constă în capacitatea lor de a interacționa direct cu sistemul.

În timp ce LLM-urile convenționale primesc doar comenzi și returnează text, agenții AI au capacitatea de a executa comenzi shell (interacționează cu sistemul de operare prin linia de comandă), de a manipula sistemele de fișiere pentru citire și scriere, de a trimite automat e-mailuri, de a apela API-uri și de a controla browserele. Această actualizare deschide, în mod accidental, o gamă mai largă de posibilități de atac, depășind cu mult sfera campaniilor tipice de dezinformare.

Dl. Mai Xuan Cuong - Director al Centrului de Servicii de Securitate a Informațiilor, Viettel Cyber ​​​​Security.

Agenții cu inteligență artificială devin o nouă țintă pentru infractorii cibernetici.

Potrivit experților în securitate cibernetică, această capacitate de a „acționa” face din agenții IA o nouă țintă pentru infractorii cibernetici.

Unul dintre cele mai mari riscuri este scurgerea de date la nivel de întreprindere. Pentru a funcționa eficient, agenții de inteligență artificială trebuie adesea să proceseze cantități mari de informații interne, cum ar fi codul sursă, documentele și e-mailurile. Dacă aceste date sunt trimise către platforme de inteligență artificială în cloud de la terți, riscul expunerii informațiilor confidențiale crește.

Au fost înregistrate cazuri în care angajați Samsung au scurs cod sursă nou prin ChatGPT sau angajați Meta au scurs date în mod accidental, urmând instrucțiunile de la inteligența artificială internă.

Pe lângă riscul scurgerilor de date, experții avertizează și asupra „injectării indirecte de informații”. Hackerii pot integra instrucțiuni malițioase în e-mailuri, site-uri web sau documente pentru a păcăli agenții de inteligență artificială să efectueze acțiuni neintenționate, cum ar fi accesarea datelor interne sau trimiterea de informații către hacker.

A existat un caz în care un atacator a ascuns codul Morse într-un mesaj pentru a ocoli sistemul, permițând agentului de criptomonede Grok-Bankrbot să execute un transfer de bani neautorizat, rezultând o pierdere de 150.000 de dolari.

Un alt risc provine din ecosistemul de extensii pentru agenții de inteligență artificială. Mulți angajați din cadrul companiilor instalează extensii din comunitate pentru a extinde funcționalitatea inteligenței artificiale, dar hackerii pot exploata acest canal pentru a răspândi programe malware. Odată ce li se acordă acces la sistem, aceste plugin-uri false pot fura date, token-uri sau pot crea backdoor-uri pe dispozitiv.

Potrivit domnului Cuong, tendința „Shadow AI” (Inteligență Artificială în Umbră) este, de asemenea, în curs de dezvoltare, pe măsură ce angajații instalează independent agenți de inteligență artificială pe computerele lor de serviciu, fără a trece prin departamentul IT. Acest lucru îngreunează controlul accesului pentru companii și crește riscul de încălcări ale securității sistemelor.

În plus, inteligența artificială poate interpreta greșit intențiile utilizatorilor, ducând la executarea unor comenzi care ar putea cauza daune semnificative companiilor. De exemplu, un agent de inteligență artificială ar putea efectua o operațiune greșită sau ar putea șterge accidental date importante dacă i se acordă permisiuni excesive.

Pentru a atenua riscurile, organizațiilor li se recomandă să construiască un model de securitate cu mai multe straturi, în loc să se bazeze exclusiv pe software-ul antivirus tradițional, și să dezvolte o foaie de parcurs adecvată pentru implementare.

Companiile trebuie să construiască un model de securitate cu mai multe straturi.

Primul pas pe care o companie trebuie să îl facă este detectarea amenințărilor. Companiile pot utiliza endpoint-uri și trafic proxy web (servere intermediare care conectează dispozitivele la internet) pentru a agrega și identifica amenințările.

În continuare, trebuie să configurăm un gateway AI, care să îl transforme în punctul unic de control pentru tot accesul AI. Acest gateway va controla transmiterea datelor către cloudul public.

Ulterior, companiile trebuie să implementeze un nivel suplimentar de control specializat (Guardrail) pe gateway-ul lor AI și pe alte aplicații AI pentru a identifica comenzile rău intenționate, a preveni scurgerile de date și a detecta accesul neautorizat sau exploatarea sistemului.

Următorul pas este stabilirea de întăriri pentru Agentul IA. Sistemul de monitorizare de la punctul final trebuie configurat pentru a urmări „comportamentul autonom” neobișnuit. Agentul IA ar trebui să funcționeze într-un mediu izolat, cu acces minim, pentru a limita riscul de răspândire în cazul apariției unui incident. În cele din urmă, monitorizarea regulată a sistemului este esențială.

„Guvernanța securității prin inteligență artificială nu este o implementare singulară, ci un proces continuu de monitorizare”, a declarat dl. Cuong.

Managementul securității IA va deveni o cerință obligatorie în perioada de dezvoltare rapidă a agenților IA. Dacă companiile nu sunt pregătite să stabilească modele de securitate Zero Trust și o monitorizare riguroasă, împuternicirea agenților IA să acționeze este ca și cum ai preda cheile sistemului unui angajat care, deși este foarte calificat, este foarte susceptibil la manipulare.

Pașnic

Sursă: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445