Microsoft si assume dei rischi

Nonostante la trasparenza sui rischi derivanti dall'integrazione dell'IA in Windows 11, Microsoft deve ancora conquistare la fiducia dei suoi concorrenti nella sua implementazione.

La schermata di Windows 11 richiede l'autorizzazione per utilizzare l'agente AI. Immagine: Windows Latest .

Nelle scorse settimane, Microsoft ha cercato di integrare agenti di intelligenza artificiale in Windows. Tuttavia, anche nella propria documentazione, l'azienda riconosce che questa tecnologia può essere soggetta ad "allucinazioni", comportarsi in modo imprevedibile ed essere ingannata da tipi di attacchi che non esistevano un anno fa.

A metà ottobre, Microsoft ha annunciato di voler "trasformare ogni PC con Windows 11 in un PC con intelligenza artificiale". L'azienda ha lanciato una serie di nuove integrazioni basate sull'IA, progettate per consentire la "conversazione", permettendo al computer di vedere cosa c'è sullo schermo e di agire per conto dell'utente.

Integrazione nonostante i rischi.

Le ultime novità mirano a trasformare la barra delle applicazioni di Windows 11 in un hub per l'intelligenza artificiale. La casella di ricerca di Windows 11 viene sostituita da un'interfaccia "Chiedi a Copilot", che consente agli utenti di accedere a Copilot con un solo clic o comando. Questo permette di monitorare quali agenti sono in esecuzione in background, proprio come si fa con le normali applicazioni.

Microsoft, inoltre, non finge che questa tecnologia sia sicura o priva di errori. La documentazione ufficiale dell'azienda avverte che gli agenti di intelligenza artificiale "presentano limitazioni funzionali nel loro comportamento e a volte possono avere allucinazioni, producendo risultati inaspettati".

La barra delle applicazioni dopo l'integrazione dell'agente AI.

Uno dei maggiori rischi menzionati è la Cross Prompt Injection (XPIA). In questo caso, un agente di intelligenza artificiale viene ingannato da contenuti dannosi incorporati nei componenti dell'interfaccia utente (UI), nei documenti o nelle applicazioni. Questi contenuti possono sovrascrivere le istruzioni originali e costringere il chatbot a eseguire azioni dannose come la copia di file sensibili o la divulgazione di dati.

I ricercatori nel campo della sicurezza hanno avvertito che gli agenti di intelligenza artificiale basati su interfacce grafiche sono particolarmente vulnerabili a questo tipo di attacco indiretto, poiché spesso godono di privilegi molto elevati. Sebbene Microsoft sia stata trasparente sui rischi, Copilot ha recentemente affrontato intense critiche in materia di privacy ed è improbabile che ottenga un'accettazione immediata.

Microsoft afferma che gli agenti verranno eseguiti con account separati, con privilegi limitati e registri anti-modifica. Tuttavia, avranno comunque accesso in lettura e scrittura ad alcune delle posizioni più riservate del PC, come Documenti, Download, Desktop, Video, Immagini e Musica.

L'obiettivo è che l'intelligenza artificiale sostituisca tutte le mansioni.

Agent Workspace è la spina dorsale della visione di Microsoft per un sistema operativo agentico (un sistema operativo basato su agenti di intelligenza artificiale). Windows 11 è ora in grado di creare sessioni separate per questi agenti, promettendo di eseguire funzioni come la modifica di file e lo spostamento di documenti senza l'intervento dell'utente.

Ogni agente avrà il proprio account standard sul PC, che esisterà essenzialmente in un ambiente Windows parallelo, senza tuttavia influire direttamente sulla sessione principale. All'interno di questo ambiente, il chatbot interagirà con le applicazioni come un essere umano, ad esempio cliccando sui pulsanti dell'interfaccia, digitando testo, scorrendo le finestre, trascinando e rilasciando file ed eseguendo attività complesse.

Come abilitare le funzionalità basate sull'intelligenza artificiale in Windows 11.

Agent Workspace è responsabile della definizione dei contenuti visualizzati agli agenti. Microsoft utilizza inoltre gli elenchi di controllo degli accessi (ACL) per impedire agli account di superare i limiti dei propri privilegi. Per abilitare una qualsiasi di queste funzionalità, gli utenti devono attivare le funzionalità sperimentali per gli agenti, che sono disabilitate per impostazione predefinita.

Per Microsoft, integrare l'intelligenza artificiale nei PC è un passo irreversibile di fronte alla forte concorrenza. Anche Apple sta lavorando intensamente allo sviluppo di Apple Intelligence, soprattutto perché prevede di utilizzare una versione personalizzata di Gemini. Anche Google sta pianificando di entrare nel mercato dei PC con Aluminium OS.

Mentre il prossimo MacBook economico di Apple, con la sua suite completa di Apple Intelligence, sta generando molte discussioni, Windows 11 è già stato criticato per la sua complessità e la lentezza di elaborazione. Anche la precedente funzionalità di intelligenza artificiale di Microsoft, Recall, ha ricevuto critiche a causa delle sue scarse dotazioni di sicurezza.

Un sistema operativo "agente" è forse inevitabile per tutti i produttori. Tuttavia, secondo Windows Latest, la chiave sta nell'implementazione e Microsoft dovrà riconquistare la fiducia degli utenti nella sua tecnologia di intelligenza artificiale.

Fonte: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html