Microsoft tar risikoer

Windows 11-skjerm som ber om tillatelse til å bruke AI-agent. Foto: Windows Latest .

I løpet av de siste ukene har Microsoft jobbet med å integrere AI-agenter i Windows. Men selv selskapets egen dokumentasjon innrømmer at teknologien kan bli «hallusinert», oppføre seg uforutsigbart og til og med bli lurt av angrep som ikke eksisterte for et år siden.

I midten av oktober annonserte Microsoft at de «gjorde alle Windows 11-PC-er om til AI-PC-er». Selskapet lanserte en serie nye AI-integrasjoner som ville muliggjøre «samtaler», slik at datamaskinen kunne se hva som er på skjermen og la den handle på dens vegne.

Integrering på egen risiko

De siste tiltakene har som mål å gjøre oppgavelinjen i Windows 11 om til et AI-knutepunkt. Søkeboksen i Windows 11 erstattes med et «Spør Copilot»-grensesnitt, som lar deg ringe Copilot med et enkelt klikk eller en kommando. Derfra kan du overvåke agenter som kan kjøre oppgaver i bakgrunnen, akkurat som du ville administrere vanlige apper.

Microsoft later heller ikke som om teknologien er trygg eller ufeilbarlig. Den offisielle dokumentasjonen advarer om at AI-agenter «har funksjonelle begrensninger i hvordan de oppfører seg og noen ganger kan hallusinere, noe som skaper utilsiktede resultater».

Oppgavelinje etter integrering av AI-agent.

En av de største risikoene som er nevnt er Cross Prompt Injection (XPIA). I denne typen blir en AI-agent lurt av skadelig innhold innebygd i brukergrensesnittkomponenter, dokumenter eller applikasjoner. Dette innholdet kan overstyre de opprinnelige instruksjonene og tvinge chatboten til å utføre skadelige handlinger, som å kopiere sensitive filer eller lekke data.

Sikkerhetsforskere har advart om at GUI-baserte AI-agenter er spesielt sårbare for denne typen indirekte angrep, ettersom de ofte har svært høye rettigheter. Selv om Microsoft har vært åpen om risikoene, har Copilot nylig blitt kritisert for personvernhensyn, og det er usannsynlig at det blir tatt i bruk med det første.

Microsoft hevder at agentene kjører under separate kontoer, med begrensede tillatelser og logger for sikkerhetskopiering. De har imidlertid fortsatt lese- og skrivetilgang til noen av de mest private stedene på PC-en din, for eksempel Dokumenter, Nedlastinger, Skrivebord, Videoer, Bilder og Musikk.

Ambisjon om å erstatte alle oppgaver med AI

Agent Workspace er ryggraden i Microsofts visjon om et Agentic OS. Windows 11 kan nå opprette separate økter for denne agenten, og lover å utføre funksjoner som redigering av filer og flytting av dokumenter uten behov for en bruker.

Hver agent vil ha sin egen standardkonto på PC-en, som er som et parallelt Windows-miljø, men som ikke direkte påvirker den primære arbeidsøkten. Inne i den samhandler chatboten med applikasjoner på samme måte som et menneske, for eksempel ved å klikke på grensesnittknapper, skrive inn tekst, bla i vinduer, dra og slippe filer og utføre flertrinnsoppgaver.

Slik aktiverer du AI-relaterte funksjoner i Windows 11.

Agentarbeidsområdet er ansvarlig for å bestemme hva som vises for agenter. Microsoft bruker også tilgangskontrolllister for å forhindre at kontoer overskrider sin autoritet. For å aktivere noen av disse funksjonene må brukere aktivere eksperimentelle agentfunksjoner, som er deaktivert som standard.

For Microsoft er integrering av kunstig intelligens i PC-er et skritt som ikke kan reverseres i en sammenheng med hard konkurranse. Apple jobber også hardt med å utvikle Apple Intelligence, spesielt når de planlegger å bruke en tilpasset versjon av Gemini. Google planlegger også å gå inn i PC-markedet med Aluminum OS.

Mens Apples kommende rimelige MacBook, med en fullversjon av Apple Intelligence, har blitt mye diskutert, har Windows 11 blitt kritisert for å føles klumpete og behandle oppgaver saktere. Microsofts tidligere AI-funksjon, Recall, har fått kritikk for sin dårlige sikkerhet.

«Agent»-operativsystemer er sannsynligvis uunngåelige for alle leverandører. Ifølge Window Latest er imidlertid implementeringen det viktigste, og Microsoft må gjenvinne brukernes tillit til sin AI-teknologi.

Kilde: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html