Microsoft tar risker

Trots att de är transparenta om riskerna med att AI integreras i Windows 11, behöver Microsoft fortfarande bygga upp förtroende för dess implementering jämfört med sina konkurrenter.

Windows 11-skärmen begär tillåtelse att använda AI-agenten. Bild: Windows Latest .

Under de senaste veckorna har Microsoft försökt integrera AI-agenter i Windows. Men även i sin egen dokumentation erkänner företaget att den här tekniken kan vara benägen att orsaka "hallucinationer", bete sig oförutsägbart och bli lurad av typer av attacker som inte existerade för ett år sedan.

I mitten av oktober meddelade Microsoft att de "förvandlar varje Windows 11-dator till en AI-dator". Företaget lanserade en serie nya AI-integrationer utformade för att möjliggöra "konversation", vilket gör att datorn kan se vad som finns på skärmen och agera för dess räkning.

Integration trots riskerna.

De senaste åtgärderna syftar till att omvandla aktivitetsfältet i Windows 11 till en AI-hubb. Sökrutan i Windows 11 ersätts med ett gränssnitt som heter "Fråga Copilot", vilket gör det möjligt för användare att komma åt Copilot med ett enda klick eller kommando. Detta gör det möjligt för användare att övervaka vilka agenter som kör bakgrundsuppgifter, ungefär som att hantera vanliga applikationer.

Microsoft låtsas inte heller att den här tekniken är säker eller felfri. Företagets officiella dokumentation varnar för att AI-agenter "har funktionella begränsningar i hur de beter sig och ibland kan hallucinera, vilket ger oväntade resultat."

Aktivitetsfältet efter integration av AI-agenten.

En av de största riskerna som nämns är Cross Prompt Injection (XPIA). I ​​detta fall luras en AI-agent av skadligt innehåll inbäddat i användargränssnittskomponenter, dokument eller applikationer. Detta innehåll kan åsidosätta ursprungliga instruktioner och tvinga chatboten att utföra skadliga åtgärder som att kopiera känsliga filer eller läcka data.

Säkerhetsforskare har varnat för att AI-agenter baserade på grafiska gränssnitt är särskilt sårbara för denna typ av indirekta attacker, eftersom de ofta beviljas mycket höga privilegier. Medan Microsoft har varit transparenta om riskerna har Copilot nyligen mött hård kritik gällande integritet och kommer sannolikt inte att få omedelbar acceptans.

Microsoft hävdar att agenterna kommer att köras under separata konton med begränsade behörigheter och loggar mot redigering. De kommer dock fortfarande att ha läs- och skrivåtkomst till några av de mest privata platserna på datorn, såsom Dokument, Nedladdningar, Skrivbord, Videor, Bilder och Musik.

Ambitionen är att AI ska ersätta alla uppgifter.

Agent Workspace är grunden för Microsofts vision för ett Agentic OS (ett operativsystem som drivs av AI-agenter). Windows 11 kan nu skapa separata sessioner för dessa agenter, vilket lovar att utföra funktioner som filredigering och dokumentflytt utan användarintervention.

Varje agent kommer att ha sitt eget standardkonto på datorn, som i huvudsak existerar i en parallell Windows-miljö men utan att direkt påverka huvudsessionen. Inuti interagerar chatboten med applikationer som en människa, till exempel genom att klicka på gränssnittsknappar, skriva text, skrolla i fönster, dra och släppa filer och utföra flerstegsuppgifter.

Så här aktiverar du AI-relaterade funktioner i Windows 11.

Agent Workspace ansvarar för att bestämma vad som ska visas för agenter. Microsoft använder även åtkomstkontrollistor för att förhindra att konton överskrider sina behörigheter. För att aktivera någon av dessa funktioner måste användare aktivera experimentella agentfunktioner, vilka är inaktiverade som standard.

För Microsoft är integrationen av AI i PC-datorer ett oåterkalleligt steg inför den hårda konkurrensen. Apple arbetar också hårt med att utveckla Apple Intelligence, särskilt eftersom de planerar att använda en anpassad version av Gemini. Google planerar också att gå in på PC-marknaden med Aluminium OS.

Medan Apples kommande budget MacBook, med sin kompletta Apple Intelligence-svit, genererar mycket diskussion, har Windows 11 redan kritiserats för sin otympliga natur och långsammare processorhastigheter. Microsofts tidigare AI-funktion, Recall, har också mött motreaktioner på grund av sin dåliga säkerhet.

Ett "agentiskt" operativsystem är kanske oundvikligt för alla leverantörer. Enligt Window Latest ligger dock nyckeln i implementeringen, och Microsoft kommer att behöva återfå användarnas förtroende för sin AI-teknik.

Källa: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html