Microsoft tar risker

Även om Microsoft är transparent om riskerna med AI-agenterna som är inbyggda i Windows 11, behöver de fortfarande bygga upp förtroende för implementeringen jämfört med konkurrenterna.

Windows 11-skärm som frågar om tillåtelse att använda AI-agent. Foto: Windows Latest .

Under de senaste veckorna har Microsoft arbetat med att integrera AI-agenter i Windows. Men även företagets egen dokumentation medger att tekniken kan "hallucineras", bete sig oförutsägbart och till och med luras av attacker som inte existerade för ett år sedan.

I mitten av oktober meddelade Microsoft att de "förvandlar varje Windows 11-dator till en AI-dator". Företaget lanserade en serie nya AI-integrationer som skulle möjliggöra "konversationer", vilket gör att datorn kan se vad som visas på skärmen och låta den agera å dess vägnar.

Integrera på egen risk

De senaste dragningarna syftar till att förvandla aktivitetsfältet i Windows 11 till en AI-hubb. Sökrutan i Windows 11 ersätts med ett gränssnitt som heter "Fråga Copilot", vilket låter dig anropa Copilot med ett enda klick eller kommando. Därifrån kan du övervaka agenter som kan köra uppgifter i bakgrunden, precis som du skulle hantera vanliga appar.

Microsoft påstår inte heller att tekniken är säker eller ofelbar. Dess officiella dokumentation varnar för att AI-agenter "har funktionella begränsningar i hur de beter sig och ibland kan hallucinera, vilket skapar oavsiktliga resultat".

Aktivitetsfältet efter integration av AI-agent.

En av de största riskerna som nämns är Cross Prompt Injection (XPIA). I ​​detta fall luras en AI-agent av skadligt innehåll inbäddat i användargränssnittskomponenter, dokument eller applikationer. Detta innehåll kan åsidosätta de ursprungliga instruktionerna och tvinga chatboten att utföra skadliga åtgärder som att kopiera känsliga filer eller läcka data.

Säkerhetsforskare har varnat för att GUI-baserade AI-agenter är särskilt sårbara för den här typen av indirekta attacker, eftersom de ofta har mycket höga privilegier. Medan Microsoft har varit transparenta om riskerna har Copilot nyligen kritiserats för integritetsproblem och det är osannolikt att det kommer att implementeras omedelbart.

Microsoft hävdar att agenterna körs under separata konton, med begränsade behörigheter och loggar mot manipulation. De har dock fortfarande läs- och skrivåtkomst till några av de mest privata platserna på din dator, till exempel Dokument, Nedladdningar, Skrivbord, Videor, Bilder och Musik.

Ambitionen att ersätta alla uppgifter med AI

Agent Workspace är ryggraden i Microsofts vision om ett Agentic OS. Windows 11 kan nu skapa separata sessioner för den här agenten, vilket lovar att utföra funktioner som att redigera filer och flytta dokument utan behov av en användare.

Varje agent kommer att ha sitt eget standardkonto på datorn, vilket är som en parallell Windows-miljö men som inte direkt påverkar den huvudsakliga arbetssessionen. Inuti den interagerar chatboten med applikationer på samma sätt som en människa, till exempel genom att klicka på gränssnittsknappar, skriva text, bläddra i fönster, dra och släppa filer och utföra flerstegsuppgifter.

Så här aktiverar du AI-relaterade funktioner i Windows 11.

Agentarbetsytan ansvarar för att bestämma vad som visas för agenter. Microsoft använder även åtkomstkontrollistor för att förhindra att konton överskrider sina befogenheter. För att aktivera någon av dessa funktioner måste användare aktivera experimentella agentfunktioner, vilket är inaktiverat som standard.

För Microsoft är integrationen av AI i PC-datorer ett steg som inte kan ångras i den hårda konkurrensen. Apple arbetar också hårt med att utveckla Apple Intelligence, särskilt när de planerar att använda en anpassad version av Gemini. Google planerar också att gå in på PC-marknaden med Aluminum OS.

Medan Apples kommande billiga MacBook, med en fullständig version av Apple Intelligence, har diskuterats flitigt, har Windows 11 kritiserats för att kännas klumpig och bearbeta uppgifter långsammare. Microsofts tidigare AI-funktion, Recall, har fått kritik för sin dåliga säkerhet.

"Agent"-operativsystem är förmodligen oundvikliga för alla leverantörer. Enligt Window Latest är det viktiga dock implementeringen och Microsoft kommer att behöva återfå användarnas förtroende för sin AI-teknik.

Källa: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html