Microsoft geht Risiken ein

Obwohl Microsoft die Risiken der in Windows 11 integrierten KI transparent darstellt, muss das Unternehmen im Vergleich zu seinen Wettbewerbern erst noch Vertrauen in die Umsetzung aufbauen.

Der Windows-11-Bildschirm fordert die Berechtigung zur Verwendung des KI-Agenten an. Bild: Windows Latest .

In den vergangenen Wochen hat Microsoft versucht, KI-Agenten in Windows zu integrieren. Doch selbst in der eigenen Dokumentation räumt das Unternehmen ein, dass diese Technologie anfällig für „Halluzinationen“ sein, sich unvorhersehbar verhalten und von Angriffsarten getäuscht werden kann, die es vor einem Jahr noch nicht gab.

Mitte Oktober kündigte Microsoft an, jeden Windows 11-PC in einen KI-PC zu verwandeln. Das Unternehmen stellte eine Reihe neuer KI-Integrationen vor, die eine „Konversation“ ermöglichen sollen, sodass der Computer erkennt, was auf dem Bildschirm angezeigt wird, und in dessen Namen handelt.

Integration trotz der Risiken.

Die neuesten Änderungen zielen darauf ab, die Windows-11-Taskleiste in eine KI-Zentrale zu verwandeln. Das Windows-11-Suchfeld wird durch eine „Copilot fragen“-Oberfläche ersetzt, die es Nutzern ermöglicht, mit einem einzigen Klick oder Befehl auf Copilot zuzugreifen. So können Nutzer überwachen, welche Agenten im Hintergrund Aufgaben ausführen – ähnlich wie bei der Verwaltung regulärer Anwendungen.

Auch Microsoft gibt nicht vor, dass diese Technologie sicher oder fehlerfrei sei. In der offiziellen Dokumentation des Unternehmens wird davor gewarnt, dass KI-Agenten „funktionale Einschränkungen in ihrem Verhalten aufweisen und manchmal Halluzinationen haben können, was zu unerwarteten Ergebnissen führt.“

Die Taskleiste nach der Integration des KI-Agenten.

Eines der größten genannten Risiken ist Cross Prompt Injection (XPIA). Dabei wird ein KI-Agent durch Schadcode getäuscht, der in Benutzeroberflächenkomponenten, Dokumenten oder Anwendungen eingebettet ist. Dieser Schadcode kann die ursprünglichen Anweisungen überschreiben und den Chatbot zu schädlichen Aktionen zwingen, wie beispielsweise dem Kopieren sensibler Dateien oder dem Auslesen von Daten.

Sicherheitsforscher warnen davor, dass KI-Systeme mit grafischen Benutzeroberflächen besonders anfällig für diese Art indirekter Angriffe sind, da ihnen oft sehr hohe Berechtigungen eingeräumt werden. Obwohl Microsoft die Risiken transparent kommuniziert hat, sah sich Copilot in letzter Zeit heftiger Kritik hinsichtlich des Datenschutzes ausgesetzt und dürfte daher nicht sofort Akzeptanz finden.

Microsoft behauptet, die Agenten würden unter separaten Konten mit eingeschränkten Berechtigungen und Protokollschutz laufen. Sie hätten jedoch weiterhin Lese- und Schreibzugriff auf einige der sensibelsten Bereiche des PCs, wie Dokumente, Downloads, Desktop, Videos, Bilder und Musik.

Das Ziel ist es, dass KI alle Aufgaben ersetzt.

Agent Workspace bildet das Rückgrat von Microsofts Vision eines agentenbasierten Betriebssystems (eines Betriebssystems, das von KI-Agenten gesteuert wird). Windows 11 kann nun separate Sitzungen für diese Agenten erstellen und verspricht, Funktionen wie das Bearbeiten von Dateien und das Verschieben von Dokumenten ohne Benutzereingriff auszuführen.

Jeder Agent verfügt über ein eigenes Standardkonto auf dem PC und existiert somit in einer parallelen Windows-Umgebung, ohne jedoch die Hauptseite direkt zu beeinflussen. Innerhalb dieser Umgebung interagiert der Chatbot mit Anwendungen wie ein Mensch, beispielsweise durch Klicken auf Schaltflächen, Eingeben von Text, Scrollen in Fenstern, Verschieben von Dateien per Drag & Drop und Ausführen mehrstufiger Aufgaben.

So aktivieren Sie KI-bezogene Funktionen unter Windows 11.

Der Agentenarbeitsbereich legt fest, welche Informationen Agenten angezeigt werden. Microsoft verwendet außerdem Zugriffskontrolllisten, um zu verhindern, dass Benutzer ihre Berechtigungen überschreiten. Um diese Funktionen zu aktivieren, müssen Benutzer die standardmäßig deaktivierten experimentellen Agentenfunktionen aktivieren.

Für Microsoft ist die Integration von KI in PCs angesichts des harten Wettbewerbs ein unumkehrbarer Schritt. Auch Apple arbeitet intensiv an der Entwicklung von Apple Intelligence, insbesondere im Hinblick auf die geplante Nutzung einer angepassten Version von Gemini. Google plant ebenfalls den Einstieg in den PC-Markt mit Aluminium OS.

Während Apples kommendes Budget-MacBook mit der kompletten Apple Intelligence Suite für viel Gesprächsstoff sorgt, wurde Windows 11 bereits wegen seiner umständlichen Bedienung und der langsamen Verarbeitungsgeschwindigkeit kritisiert. Auch Microsofts vorherige KI-Funktion „Recall“ stieß aufgrund mangelnder Sicherheit auf Kritik.

Ein „agentenbasiertes“ Betriebssystem ist für alle Anbieter wohl unausweichlich. Laut Window Latest liegt der Schlüssel jedoch in der Implementierung, und Microsoft muss das Vertrauen der Nutzer in seine KI-Technologie zurückgewinnen.

Quelle: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html