Microsoft emite un avertisment deoarece inteligența artificială din Windows 11 este prea puternică.

Microsoft este în curs de dezvoltare a Windows 11, cu planuri de a-l transforma într-un „sistem de operare agentic” în viitor. Cu toate acestea, compania a emis un avertisment cu privire la riscurile potențiale asociate cu această nouă funcționalitate.

Înainte de a lansa funcții experimentale pentru utilizatorii Windows Insider, Microsoft le recomandă utilizatorilor de Windows 11 să le activeze doar dacă înțeleg pe deplin implicațiile de securitate.

Conform BGR , Microsoft a confirmat că componentele agentului de inteligență artificială (IA) vor fi dezactivate în mod implicit, deoarece această funcție ar putea prezenta un risc de atacuri de tip XPIA (cross-prompt injection).

Acest atac are loc atunci când aplicațiilor de inteligență artificială li se acordă acces la fișierele utilizatorilor, ceea ce poate duce la scurgeri de date sau la instalarea de programe malware. Conturile de agent, acordate atunci când funcțiile agentului de inteligență artificială sunt activate, vor avea acces limitat la folderele profilului utilizatorului, dar vor avea în continuare potențialul de a provoca consecințe nedorite.

Numite Agent Workspace, componentele experimentale ale agentului AI sunt acum disponibile în previzualizare pentru dezvoltatori și vor fi implementate în curând pentru mai mulți utilizatori.

Deși nicio aplicație nu acceptă în prezent această funcție, Copilot va avea în curând acces la spațiul de lucru pentru agenți. Totuși, acest lucru ridică și probleme de confidențialitate, deoarece Copilot ar putea vedea întregul ecran al utilizatorului.

Microsoft consideră anumite componente ale spațiului de lucru al agenților ca fiind foarte periculoase, așa că sunt dezactivate în mod implicit.

Microsoft subliniază faptul că securitatea nu este o caracteristică temporară, ci un angajament continuu care va fi ajustat în timp. Agent Workspace este conceput pentru a permite aplicațiilor de inteligență artificială să acceseze fișierele în fundal, în timp ce utilizatorii continuă să își utilizeze dispozitivele.

Cu toate acestea, utilizatorii pot gestiona în continuare permisiunile de acces și pot opri agentul atunci când este necesar. În prezent, multe persoane își exprimă încă îngrijorările și dezacordurile cu privire la această nouă funcție pe forumurile online.

Cu toate acestea, Microsoft consideră că, pe măsură ce tot mai mulți utilizatori vor avea acces la funcțiile experimentale ale agentului de inteligență artificială, vor avea mai multe informații despre modul în care funcționează și cât de sigure sunt.