Cosa possono fare le aziende per evitare di essere "attaccate" dagli agenti di intelligenza artificiale?

DNVN - L'intelligenza artificiale si sta evolvendo da semplici modelli linguistici (LLM) in grado solo di "conversare" ad agenti di IA – "assistenti digitali" – capaci di eseguire automaticamente compiti complessi, promettendo di diventare una potente forza lavoro digitale in futuro. Tuttavia, conferire all'IA l'autorità di agire apre la strada a numerosi nuovi rischi di attacco, minacciando la sicurezza informatica delle aziende.

Al forum Security Summit 2026, tenutosi il 22 maggio, il signor Mai Xuan Cuong, direttore del Centro servizi di sicurezza informatica di Viettel Cyber ​​Security, ha affermato che la differenza più pericolosa tra gli agenti di intelligenza artificiale e i tradizionali LLM risiede nella loro capacità di interagire direttamente con il sistema.

Mentre i LLM convenzionali si limitano a ricevere comandi e a restituire testo, gli agenti AI hanno la capacità di eseguire comandi di shell (interagire con il sistema operativo tramite la riga di comando), manipolare i file system in lettura e scrittura, inviare automaticamente email, chiamare API e controllare i browser. Questo aggiornamento apre inavvertitamente una gamma più ampia di possibilità di attacco, che vanno ben oltre la portata delle tipiche campagne di disinformazione.

Il signor Mai Xuan Cuong è il direttore del Centro servizi per la sicurezza informatica di Viettel Cyber ​​Security.

Gli agenti basati sull'intelligenza artificiale stanno diventando un nuovo bersaglio per i criminali informatici.

Secondo gli esperti di sicurezza informatica, è proprio questa capacità di "agire" che rende gli agenti di intelligenza artificiale un nuovo bersaglio per i criminali informatici.

Uno dei rischi maggiori è la fuga di dati aziendali. Per funzionare efficacemente, gli agenti di intelligenza artificiale devono spesso elaborare grandi quantità di informazioni interne, come codice sorgente, documenti ed e-mail. Se questi dati vengono inviati a piattaforme di intelligenza artificiale cloud di terze parti, aumenta il rischio che informazioni riservate vengano divulgate.

Sono stati registrati casi di dipendenti Samsung che hanno divulgato nuovo codice sorgente tramite ChatGPT, o di dipendenti Meta che hanno inavvertitamente divulgato dati seguendo le istruzioni di un'intelligenza artificiale interna.

Oltre al rischio di fughe di dati, gli esperti mettono in guardia anche contro l'"iniezione indiretta di prompt". Gli hacker possono inserire istruzioni dannose in e-mail, siti web o documenti per indurre gli agenti di intelligenza artificiale a compiere azioni indesiderate, come accedere a dati interni o inviare informazioni all'hacker.

Si è verificato un caso in cui un hacker ha nascosto del codice Morse in un messaggio per eludere il sistema, consentendo all'agente di criptovalute Grok-Bankrbot di eseguire un trasferimento di denaro non autorizzato, con conseguente perdita di 150.000 dollari.

Un altro rischio deriva dall'ecosistema di estensioni per gli agenti di intelligenza artificiale. Molti dipendenti aziendali installano estensioni provenienti dalla community per ampliare le funzionalità dell'IA, ma gli hacker possono sfruttare questo canale per diffondere malware. Una volta ottenuto l'accesso al sistema, questi plugin fasulli possono rubare dati, token o creare backdoor sul dispositivo.

Secondo il signor Cuong, sta emergendo anche la tendenza dell'"IA ombra", in quanto i dipendenti installano autonomamente agenti di intelligenza artificiale sui propri computer aziendali senza passare attraverso il reparto IT. Ciò rende difficile per le aziende controllare gli accessi e aumenta il rischio di violazioni della sicurezza del sistema.

Inoltre, l'IA può interpretare erroneamente le intenzioni dell'utente, portando all'esecuzione di comandi che potrebbero causare danni significativi alle aziende. Ad esempio, un agente IA potrebbe eseguire l'operazione sbagliata o cancellare accidentalmente dati importanti se gli vengono concessi permessi eccessivi.

Per mitigare i rischi, si consiglia alle organizzazioni di adottare un modello di sicurezza multilivello anziché affidarsi esclusivamente ai tradizionali software antivirus e di sviluppare un'adeguata roadmap di implementazione.

Le aziende devono costruire un modello di sicurezza multilivello.

Il primo passo che un'azienda deve compiere è il rilevamento delle minacce. Le aziende possono utilizzare gli endpoint e il traffico proxy web (server intermedi che collegano i dispositivi a Internet) per aggregare e identificare le minacce.

Successivamente, dobbiamo configurare un gateway AI, che funga da punto di controllo unico per tutti gli accessi all'IA. Questo gateway controllerà la trasmissione dei dati al cloud pubblico.

Di conseguenza, le aziende devono implementare un ulteriore livello di controllo specializzato (Guardrail) sul proprio gateway AI e su altre applicazioni di intelligenza artificiale per identificare comandi dannosi, prevenire fughe di dati e rilevare accessi non autorizzati o sfruttamento del sistema.

Il passo successivo consiste nel predisporre dei sistemi di rinforzo per l'agente AI. Il sistema di monitoraggio presso l'endpoint deve essere configurato per rilevare eventuali "comportamenti autonomi" anomali. L'agente AI dovrebbe operare in un ambiente isolato con accesso minimo per limitare il rischio di diffusione in caso di incidente. Infine, è essenziale un monitoraggio regolare del sistema.

"La governance della sicurezza dell'IA non è un'implementazione una tantum, ma un processo di monitoraggio continuo", ha affermato il signor Cuong.

La gestione della sicurezza dell'IA diventerà un requisito imprescindibile durante il periodo di rapido sviluppo degli agenti di IA. Se le aziende non sono pronte ad adottare modelli di sicurezza Zero Trust e un monitoraggio rigoroso, autorizzare gli agenti di IA ad agire equivale a consegnare le chiavi di sistema a un dipendente che, pur essendo altamente qualificato, è molto vulnerabile alle manipolazioni.

Tranquillo

Fonte: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445