Microsoft utfärdar en varning eftersom AI i Windows 11 är för övermäktig.

Microsoft håller på att utveckla Windows 11, med planer på att omvandla det till ett "agentiskt operativsystem" i framtiden. Företaget har dock utfärdat en varning om potentiella risker i samband med den här nya funktionen.

Innan Microsoft lanserar experimentella funktioner för Windows Insider-användare rekommenderar de att Windows 11-användare endast aktiverar dessa funktioner om de fullt ut förstår säkerhetskonsekvenserna.

Enligt BGR har Microsoft bekräftat att AI-agentkomponenter (artificiell intelligens) kommer att inaktiveras som standard eftersom den här funktionen kan utgöra en risk för XPIA-attacker (cross-prompt injection).

Denna attack inträffar när AI-applikationer beviljas åtkomst till användarfiler, vilket potentiellt kan leda till dataläckor eller installation av skadlig kod. Agentkonton, som beviljas när AI-agentfunktioner är aktiverade, har begränsad åtkomst till användarprofilmappar, men kan fortfarande orsaka oavsiktliga konsekvenser.

De experimentella AI-agentkomponenterna, som kallas Agent Workspace, är nu tillgängliga i förhandsgranskning för utvecklare och kommer snart att rullas ut till fler användare.

Även om ingen applikation för närvarande stöder den här funktionen kommer Copilot snart att ha tillgång till Agent Workspace. Detta ger dock också upphov till integritetsproblem, eftersom Copilot skulle kunna se hela användarens skärm.

Microsoft anser att vissa komponenter i Agent Workspace är mycket farliga, så de är inaktiverade som standard.

Microsoft betonar att säkerhet inte är en tillfällig funktion utan ett löpande åtagande som kommer att justeras över tid. Agent Workspace är utformat för att tillåta AI-applikationer att komma åt filer i bakgrunden, medan användare fortsätter att använda sina enheter.

Användare kan dock fortfarande hantera åtkomstbehörigheter och stoppa agenten vid behov. För närvarande uttrycker många fortfarande oro och oenigheter om den här nya funktionen på onlineforum.

Microsoft tror dock att i takt med att fler användare får tillgång till de experimentella AI-agentfunktionerna kommer de att ha mer information om hur de fungerar och hur säkra de är.