Microsoft neemt risico's

Ondanks de transparantie over de risico's die de integratie van AI in Windows 11 met zich meebrengt, moet Microsoft nog steeds het vertrouwen in de implementatie ervan winnen in vergelijking met concurrenten.

Het Windows 11-scherm vraagt ​​toestemming om de AI-agent te gebruiken. Afbeelding: Windows Latest .

De afgelopen weken heeft Microsoft geprobeerd AI-agents in Windows te integreren. Maar zelfs in de eigen documentatie erkent het bedrijf dat deze technologie vatbaar kan zijn voor "hallucinaties", onvoorspelbaar gedrag kan vertonen en kan worden misleid door soorten aanvallen die een jaar geleden nog niet bestonden.

Half oktober kondigde Microsoft aan dat het "van elke Windows 11-pc een AI-pc zou maken". Het bedrijf lanceerde een reeks nieuwe AI-integraties die ontworpen zijn om "conversatie" mogelijk te maken, waardoor de computer kan zien wat er op het scherm staat en namens de gebruiker kan handelen.

Integratie ondanks de risico's.

De nieuwste ontwikkelingen zijn erop gericht de taakbalk van Windows 11 te transformeren tot een AI-hub. Het zoekvak van Windows 11 wordt vervangen door een "Ask Copilot"-interface, waarmee gebruikers met één klik of commando toegang krijgen tot Copilot. Dit stelt gebruikers in staat om te controleren welke agents achtergrondtaken uitvoeren, net zoals ze dat met reguliere applicaties doen.

Microsoft doet ook geen poging om te beweren dat deze technologie veilig of foutloos is. In de officiële documentatie van het bedrijf wordt gewaarschuwd dat AI-agenten "functionele beperkingen hebben in hun gedrag en soms kunnen hallucineren, wat tot onverwachte resultaten kan leiden."

De taakbalk na de integratie van de AI-agent.

Een van de grootste risico's die genoemd worden, is Cross Prompt Injection (XPIA). Hierbij wordt een AI-agent misleid door kwaadaardige inhoud die is ingebed in gebruikersinterfacecomponenten, documenten of applicaties. Deze inhoud kan de oorspronkelijke instructies overschrijven en de chatbot dwingen schadelijke acties uit te voeren, zoals het kopiëren van gevoelige bestanden of het lekken van gegevens.

Beveiligingsonderzoekers hebben gewaarschuwd dat AI-agenten die gebaseerd zijn op grafische interfaces bijzonder kwetsbaar zijn voor dit type indirecte aanval, omdat ze vaak zeer hoge privileges krijgen. Hoewel Microsoft transparant is geweest over de risico's, heeft Copilot recentelijk hevige kritiek gekregen op het gebied van privacy en zal het waarschijnlijk niet direct geaccepteerd worden.

Microsoft beweert dat de agents onder aparte accounts met beperkte rechten en logboeken die bewerkingen voorkomen, zullen draaien. Ze zullen echter nog steeds lees- en schrijftoegang hebben tot enkele van de meest privélocaties op de pc, zoals Documenten, Downloads, Bureaublad, Video's, Afbeeldingen en Muziek.

Het is de ambitie om alle taken door AI te laten overnemen.

Agent Workspace vormt de ruggengraat van Microsofts visie op een Agentic OS (een besturingssysteem dat wordt aangedreven door AI-agenten). Windows 11 kan nu aparte sessies voor deze agenten creëren, waardoor functies zoals het bewerken van bestanden en het verplaatsen van documenten zonder tussenkomst van de gebruiker kunnen worden uitgevoerd.

Elke agent krijgt een eigen standaardaccount op de pc, in feite in een parallelle Windows-omgeving, maar zonder directe invloed op de hoofdsessie. Binnen deze omgeving interacteert de chatbot met applicaties zoals een mens, bijvoorbeeld door op interfaceknoppen te klikken, tekst te typen, vensters te scrollen, bestanden te slepen en neer te zetten en taken uit te voeren die uit meerdere stappen bestaan.

Hoe schakel je AI-gerelateerde functies in op Windows 11?

Agent Workspace bepaalt wat er aan agents wordt getoond. Microsoft gebruikt ook toegangscontrolelijsten (ACL's) om te voorkomen dat accounts hun bevoegdheden overschrijden. Om deze functies in te schakelen, moeten gebruikers de experimentele agentfuncties activeren, die standaard zijn uitgeschakeld.

Voor Microsoft is de integratie van AI in pc's een onomkeerbare stap in het licht van de hevige concurrentie. Apple werkt ook hard aan de ontwikkeling van Apple Intelligence, met name omdat het van plan is een aangepaste versie van Gemini te gebruiken. Google is eveneens van plan de pc-markt te betreden met Aluminium OS.

Hoewel Apple's aankomende budget-MacBook, met zijn complete Apple Intelligence-suite, veel discussie oproept, is Windows 11 al bekritiseerd vanwege zijn omslachtigheid en trage verwerkingssnelheden. Microsofts eerdere AI-functie, Recall, kreeg ook te maken met negatieve reacties vanwege de gebrekkige beveiliging.

Een "agentisch" besturingssysteem is wellicht onvermijdelijk voor alle leveranciers. Volgens Windows Latest ligt de sleutel echter in de implementatie, en Microsoft zal het vertrouwen van gebruikers in zijn AI-technologie moeten herwinnen.

Bron: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html