Microsoft tar risikoer

Til tross for at de er åpne om risikoene knyttet til integrering av kunstig intelligens i Windows 11, må Microsoft fortsatt bygge tillit til implementeringen sammenlignet med konkurrentene.

Windows 11-skjermen ber om tillatelse til å bruke AI-agenten. Bilde: Windows Latest .

I løpet av de siste ukene har Microsoft forsøkt å integrere AI-agenter i Windows. Men selv i sin egen dokumentasjon erkjenner selskapet at denne teknologien kan være utsatt for «hallusinasjoner», oppføre seg uforutsigbart og bli lurt av typer angrep som ikke eksisterte for et år siden.

I midten av oktober annonserte Microsoft at de «gjør alle Windows 11-PC-er om til AI-PC-er». Selskapet lanserte en serie nye AI-integrasjoner som er utformet for å muliggjøre «samtaler», slik at datamaskinen kan se hva som er på skjermen og handle på dens vegne.

Integrering til tross for risikoen.

De siste tiltakene tar sikte på å forvandle oppgavelinjen i Windows 11 til et AI-knutepunkt. Søkeboksen i Windows 11 erstattes med et «Spør Copilot»-grensesnitt, som lar brukere få tilgang til Copilot med et enkelt klikk eller en kommando. Dette lar brukere overvåke hvilke agenter som kjører bakgrunnsoppgaver, omtrent som å administrere vanlige applikasjoner.

Microsoft later heller ikke som om denne teknologien er trygg eller feilfri. Selskapets offisielle dokumentasjon advarer om at AI-agenter «har funksjonelle begrensninger i hvordan de oppfører seg og noen ganger kan hallusinere, noe som gir uventede resultater».

Oppgavelinjen etter integrering av AI-agenten.

En av de største risikoene som er nevnt er Cross Prompt Injection (XPIA). I ​​denne typen blir en AI-agent lurt av skadelig innhold som er innebygd i brukergrensesnittkomponenter (UI), dokumenter eller applikasjoner. Dette innholdet kan overstyre originale instruksjoner og tvinge chatboten til å utføre skadelige handlinger, som å kopiere sensitive filer eller lekke data.

Sikkerhetsforskere har advart om at AI-agenter basert på grafiske grensesnitt er spesielt sårbare for denne typen indirekte angrep, ettersom de ofte gis svært høye privilegier. Selv om Microsoft har vært åpen om risikoene, har Copilot nylig møtt intens kritikk angående personvern og vil sannsynligvis ikke få umiddelbar aksept.

Microsoft hevder at agentene vil kjøre under separate kontoer med begrensede rettigheter og logger mot redigering. De vil imidlertid fortsatt ha lese- og skrivetilgang til noen av de mest private stedene på PC-en, for eksempel Dokumenter, Nedlastinger, Skrivebord, Videoer, Bilder og Musikk.

Ambisjonen er at AI skal erstatte alle oppgaver.

Agent Workspace er ryggraden i Microsofts visjon for et Agentic OS (et operativsystem drevet av AI-agenter). Windows 11 kan nå opprette separate økter for disse agentene, og lover å utføre funksjoner som filredigering og dokumentflytting uten brukerinngripen.

Hver agent vil ha sin egen standardkonto på PC-en, som i hovedsak eksisterer i et parallelt Windows-miljø, men uten å direkte påvirke hovedøkten. Innvendig samhandler chatboten med applikasjoner som et menneske, for eksempel ved å klikke på grensesnittknapper, skrive tekst, bla i vinduer, dra og slippe filer og utføre flertrinnsoppgaver.

Slik aktiverer du AI-relaterte funksjoner i Windows 11.

Agent Workspace er ansvarlig for å bestemme hva som skal vises til agenter. Microsoft bruker også tilgangskontrolllister for å forhindre at kontoer overskrider rettighetene sine. For å aktivere noen av disse funksjonene må brukerne aktivere eksperimentelle agentfunksjoner, som er deaktivert som standard.

For Microsoft er det å integrere AI i PC-er et ugjenkallelig skritt i møte med hard konkurranse. Apple jobber også hardt med å utvikle Apple Intelligence, spesielt siden de planlegger å bruke en tilpasset versjon av Gemini. Google planlegger også å gå inn i PC-markedet med Aluminium OS.

Mens Apples kommende budsjettvennlige MacBook, med sin komplette Apple Intelligence-pakke, skaper mye diskusjon, har Windows 11 allerede blitt kritisert for sin tungvinte natur og lavere prosesseringshastigheter. Microsofts tidligere AI-funksjon, Recall, har også møtt kritikk på grunn av dårlig sikkerhet.

Et «agentisk» operativsystem er kanskje uunngåelig for alle leverandører. Ifølge Window Latest ligger imidlertid nøkkelen i implementeringen, og Microsoft må gjenvinne brukernes tillit til sin AI-teknologi.

Kilde: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html