Microsoft tager risici.

Selvom Microsoft er transparent omkring de risici, der er forbundet med AI'en, når den integreres i Windows 11, skal de stadig opbygge tillid til implementeringen sammenlignet med konkurrenterne.

Windows 11-skærmen anmoder om tilladelse til at bruge AI-agenten. Billede: Windows Latest .

I løbet af de seneste par uger har Microsoft forsøgt at integrere AI-agenter i Windows. Men selv i sin egen dokumentation anerkender virksomheden, at denne teknologi kan være tilbøjelig til "hallucinationer", opføre sig uforudsigeligt og blive narret af typer angreb, der ikke eksisterede for et år siden.

I midten af ​​oktober annoncerede Microsoft, at de "forvandlede alle Windows 11-pc'er til AI-pc'er." Virksomheden lancerede en række nye AI-integrationer designet til at muliggøre "samtale", hvilket giver computeren mulighed for at se, hvad der er på skærmen, og handle på dens vegne.

Integration trods risici.

De seneste tiltag sigter mod at omdanne Windows 11-proceslinjen til et AI-hub. Søgefeltet i Windows 11 erstattes af en "Spørg Copilot"-grænseflade, der giver brugerne adgang til Copilot med et enkelt klik eller en kommando. Dette gør det muligt for brugerne at overvåge, hvilke agenter der kører baggrundsopgaver, ligesom man administrerer almindelige applikationer.

Microsoft foregiver heller ikke, at denne teknologi er sikker eller fejlfri. Virksomhedens officielle dokumentation advarer om, at AI-agenter "har funktionelle begrænsninger i, hvordan de opfører sig, og at de nogle gange kan hallucinere, hvilket giver uventede resultater."

Proceslinjen efter integration af AI-agenten.

Du vil måske også synes om

Hanoi lancerer uafhængig undersøgelsesportal for at evaluere 50 offentlige tjenester.Gennem HIHUBs uafhængige undersøgelsesportal kan borgere direkte dele deres oplevelser, vurdere servicekvaliteten og rapportere vanskeligheder og forhindringer, de er stødt på under udførelsen af ​​administrative procedurer.

En af de største nævnte risici er Cross Prompt Injection (XPIA). I ​​denne forbindelse bliver en AI-agent narret af ondsindet indhold, der er indlejret i brugergrænsefladekomponenter, dokumenter eller applikationer. Dette indhold kan tilsidesætte originale instruktioner og tvinge chatbotten til at udføre skadelige handlinger såsom at kopiere følsomme filer eller lække data.

Sikkerhedsforskere har advaret om, at AI-agenter baseret på grafiske grænseflader er særligt sårbare over for denne type indirekte angreb, da de ofte tildeles meget høje privilegier. Mens Microsoft har været transparent omkring risiciene, har Copilot for nylig stået over for intens kritik vedrørende privatlivets fred og vil sandsynligvis ikke opnå øjeblikkelig accept.

Microsoft hævder, at agenterne vil køre under separate konti med begrænsede rettigheder og logfiler mod redigering. De vil dog stadig have læse- og skriveadgang til nogle af de mest private steder på pc'en, såsom Dokumenter, Downloads, Skrivebord, Videoer, Billeder og Musik.

Ambitionen er, at AI skal erstatte alle opgaver.

Agent Workspace er rygraden i Microsofts vision for et Agentic OS (et operativsystem drevet af AI-agenter). Windows 11 kan nu oprette separate sessioner for disse agenter og lover at udføre funktioner som filredigering og dokumentflytning uden brugerindgriben.

Hver agent vil have sin egen standardkonto på pc'en, som i bund og grund eksisterer i et parallelt Windows-miljø, men uden direkte at påvirke hovedsessionen. Indeni interagerer chatbotten med applikationer som et menneske, f.eks. ved at klikke på knapper i grænsefladen, skrive tekst, rulle i vinduer, trække og slippe filer og udføre opgaver i flere trin.

Sådan aktiverer du AI-relaterede funktioner i Windows 11.

Agent Workspace er ansvarlig for at bestemme, hvad der skal vises for agenter. Microsoft bruger også adgangskontrollister til at forhindre konti i at overskride deres rettigheder. For at aktivere en af ​​disse funktioner skal brugerne aktivere eksperimentelle agentfunktioner, som er deaktiveret som standard.

Du vil måske også synes om

Meta vinder sagen ved Den Europæiske Unions Førsteinstansret.Meta står over for strengere regler og forpligtelser efter at være blevet udpeget som "gatekeeper" under DMA, og dets Facebook-, Instagram- og WhatsApp-produkter er underlagt nærmere undersøgelse.

For Microsoft er integrationen af ​​kunstig intelligens i pc'er et uigenkaldeligt skridt i lyset af den hårde konkurrence. Apple arbejder også hårdt på at udvikle Apple Intelligence, især da de planlægger at bruge en tilpasset version af Gemini. Google planlægger også at komme ind på pc-markedet med Aluminium OS.

Mens Apples kommende budgetvenlige MacBook med dens komplette Apple Intelligence-pakke skaber megen diskussion, er Windows 11 allerede blevet kritiseret for sin besværlige natur og langsommere processorhastigheder. Microsofts tidligere AI-funktion, Recall, har også mødt kritik på grund af dens dårlige sikkerhed.

Et "agentisk" operativsystem er måske uundgåeligt for alle leverandører. Ifølge Window Latest ligger nøglen dog i implementeringen, og Microsoft bliver nødt til at genvinde brugernes tillid til sin AI-teknologi.

Kilde: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html