Microsoft își asumă riscuri

Deși este transparentă în ceea ce privește riscurile pe care le prezintă integrarea inteligenței artificiale în Windows 11, Microsoft trebuie totuși să consolideze încrederea în implementarea sa în comparație cu concurenții săi.

Ecranul Windows 11 solicită permisiunea de a utiliza agentul AI. Imagine: Windows Latest .

În ultimele săptămâni, Microsoft a încercat să integreze agenți de inteligență artificială în Windows. Dar chiar și în propria documentație, compania recunoaște că această tehnologie poate fi predispusă la „halucinații”, se poate comporta imprevizibil și poate fi păcălită de tipuri de atacuri care nu existau acum un an.

La mijlocul lunii octombrie, Microsoft a anunțat că „va transforma fiecare PC cu Windows 11 într-un PC cu inteligență artificială”. Compania a lansat o serie de noi integrări cu inteligență artificială concepute pentru a permite „conversația”, permițând computerului să vadă ce este pe ecran și să acționeze în numele său.

Integrare în ciuda riscurilor.

Cele mai recente mișcări vizează transformarea barei de activități din Windows 11 într-un hub de inteligență artificială. Caseta de căutare din Windows 11 este înlocuită cu o interfață „Întreabă Copilot”, permițând utilizatorilor să acceseze Copilot cu un singur clic sau comandă. Acest lucru permite utilizatorilor să monitorizeze ce agenți execută activități în fundal, la fel ca gestionarea aplicațiilor obișnuite.

Microsoft nu pretinde nici că această tehnologie este sigură sau lipsită de erori. Documentația oficială a companiei avertizează că agenții de inteligență artificială „au limitări funcționale în modul în care se comportă și uneori pot halucina, producând rezultate neașteptate”.

Bara de activități după integrarea agentului AI.

Unul dintre cele mai mari riscuri menționate este Cross Prompt Injection (XPIA). În această situație, un agent AI este păcălit de conținut rău intenționat încorporat în componentele interfeței cu utilizatorul (UI), documente sau aplicații. Acest conținut poate suprascrie instrucțiunile originale și poate forța chatbot-ul să efectueze acțiuni dăunătoare, cum ar fi copierea fișierelor sensibile sau scurgerea de date.

Cercetătorii în domeniul securității au avertizat că agenții de inteligență artificială bazați pe interfețe grafice sunt deosebit de vulnerabili la acest tip de atac indirect, deoarece li se acordă adesea privilegii foarte mari. Deși Microsoft a fost transparent în ceea ce privește riscurile, Copilot s-a confruntat recent cu critici intense privind confidențialitatea și este puțin probabil să fie acceptat imediat.

Microsoft susține că agenții vor rula sub conturi separate, cu privilegii limitate și jurnale anti-editare. Cu toate acestea, vor avea în continuare acces de citire și scriere la unele dintre cele mai private locații de pe PC, cum ar fi Documente, Descărcări, Desktop, Videoclipuri, Imagini și Muzică.

Ambiția este ca inteligența artificială să înlocuiască toate sarcinile.

Spațiul de lucru pentru agenți este coloana vertebrală a viziunii Microsoft pentru un sistem de operare Agentic (un sistem de operare bazat pe agenți de inteligență artificială). Windows 11 poate acum crea sesiuni separate pentru acești agenți, promițând să îndeplinească funcții precum editarea fișierelor și mutarea documentelor fără intervenția utilizatorului.

Fiecare agent va avea propriul cont standard pe PC, existând în esență într-un mediu Windows paralel, dar fără a afecta direct sesiunea principală. În interior, chatbot-ul interacționează cu aplicațiile la fel ca un om, cum ar fi apăsarea butoanelor de interfață, tastarea textului, derularea ferestrelor, glisarea și plasarea fișierelor și efectuarea de sarcini în mai mulți pași.

Cum se activează funcțiile legate de inteligența artificială în Windows 11.

Spațiul de lucru pentru agenți este responsabil pentru deciderea a ceea ce va fi afișat agenților. Microsoft utilizează, de asemenea, Liste de control al accesului pentru a împiedica conturile să își depășească privilegiile. Pentru a activa oricare dintre aceste funcții, utilizatorii trebuie să activeze Funcțiile experimentale de agenție, care sunt dezactivate în mod implicit.

Pentru Microsoft, integrarea inteligenței artificiale în PC-uri este un pas ireversibil în fața concurenței acerbe. Apple depune, de asemenea, eforturi mari pentru a dezvolta Apple Intelligence, mai ales că intenționează să utilizeze o versiune personalizată a Gemini. Google intenționează, de asemenea, să intre pe piața PC-urilor cu Aluminium OS.

În timp ce viitorul MacBook de la Apple, cu suita completă Apple Intelligence, generează multe discuții, Windows 11 a fost deja criticat pentru natura sa greoaie și vitezele de procesare mai mici. Funcția anterioară de inteligență artificială a Microsoft, Recall, s-a confruntat, de asemenea, cu reacții negative din cauza securității sale slabe.

Un sistem de operare „agentic” este probabil inevitabil pentru toți furnizorii. Cu toate acestea, potrivit Window Latest, cheia constă în implementare, iar Microsoft va trebui să recâștige încrederea utilizatorilor în tehnologia sa de inteligență artificială.

Sursă: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html