Microsoft lancia un allarme perché l'intelligenza artificiale su Windows 11 è troppo potente.

Microsoft sta sviluppando Windows 11 con l'intenzione di trasformarlo in un "sistema operativo agente" in futuro. Tuttavia, l'azienda ha lanciato un allarme sui potenziali rischi associati a questa nuova funzionalità.

Prima di rilasciare funzionalità sperimentali agli utenti di Windows Insider, Microsoft consiglia agli utenti di Windows 11 di abilitare queste funzionalità solo se ne comprendono appieno le implicazioni per la sicurezza.

Secondo BGR , Microsoft ha confermato che i componenti dell'agente di intelligenza artificiale (IA) saranno disabilitati per impostazione predefinita, poiché questa funzionalità potrebbe comportare un rischio di attacchi di cross-prompt injection (XPIA).

Questo tipo di attacco si verifica quando alle applicazioni di intelligenza artificiale viene concesso l'accesso ai file degli utenti, con la potenziale conseguenza di fughe di dati o installazione di malware. Gli account agentici, creati quando le funzionalità degli agenti di intelligenza artificiale sono abilitate, avranno un accesso limitato alle cartelle del profilo utente, ma possono comunque causare conseguenze indesiderate.

Denominati Agent Workspace, i componenti sperimentali dell'agente AI sono ora disponibili in anteprima per gli sviluppatori e saranno presto estesi a un numero maggiore di utenti.

Sebbene al momento nessuna applicazione supporti questa funzionalità, Copilot avrà presto accesso ad Agent Workspace. Tuttavia, ciò solleva anche preoccupazioni in materia di privacy, poiché Copilot potrebbe visualizzare l'intero schermo dell'utente.

Microsoft considera alcuni componenti di Agent Workspace molto pericolosi, pertanto sono disabilitati per impostazione predefinita.

Microsoft sottolinea che la sicurezza non è una funzionalità temporanea, ma un impegno costante che verrà adattato nel tempo. Agent Workspace è progettato per consentire alle applicazioni di intelligenza artificiale di accedere ai file in background, mentre gli utenti continuano a utilizzare i propri dispositivi.

Tuttavia, gli utenti possono comunque gestire i permessi di accesso e arrestare l'agente quando necessario. Attualmente, molte persone continuano a esprimere preoccupazioni e disaccordi su questa nuova funzionalità nei forum online.

Tuttavia, Microsoft ritiene che, man mano che un numero maggiore di utenti avrà accesso alle funzionalità sperimentali dell'agente AI, disporrà di maggiori informazioni sul loro funzionamento e sul loro livello di sicurezza.