Microsoft geht Risiken ein

Obwohl Microsoft die Risiken, die von den in Windows 11 integrierten KI-Agenten ausgehen, transparent darstellt, muss das Unternehmen im Vergleich zu seinen Wettbewerbern noch Vertrauen in die Umsetzung aufbauen.

Windows 11-Bildschirm, der um Erlaubnis zur Verwendung des KI-Agenten bittet. Foto: Windows Latest .

In den vergangenen Wochen hat Microsoft an der Integration von KI-Agenten in Windows gearbeitet. Doch selbst die firmeneigene Dokumentation räumt ein, dass die Technologie „halluzinieren“ kann, sich unvorhersehbar verhält und sogar von Angriffen getäuscht werden kann, die es vor einem Jahr noch nicht gab.

Mitte Oktober kündigte Microsoft an, jeden Windows 11-PC in einen KI-PC zu verwandeln. Das Unternehmen stellte eine Reihe neuer KI-Integrationen vor, die „Konversationen“ ermöglichen sollen, indem der Computer erkennt, was auf dem Bildschirm zu sehen ist, und in seinem Namen handelt.

Integration auf eigene Gefahr

Die neuesten Entwicklungen zielen darauf ab, die Windows-11-Taskleiste in eine KI-Zentrale zu verwandeln. Das Windows-11-Suchfeld wird durch eine „Copilot fragen“-Oberfläche ersetzt, mit der Sie Copilot per Klick oder Befehl aufrufen können. Dort lassen sich Agenten überwachen, die Aufgaben im Hintergrund ausführen – genau wie bei herkömmlichen Anwendungen.

Microsoft behauptet auch nicht, dass die Technologie sicher oder unfehlbar sei. In der offiziellen Dokumentation wird davor gewarnt, dass KI-Agenten „funktionale Einschränkungen in ihrem Verhalten aufweisen und manchmal Halluzinationen haben können, was zu unbeabsichtigten Ergebnissen führt.“

Taskleiste nach der Integration des KI-Agenten.

Eines der größten Risiken ist Cross Prompt Injection (XPIA). Dabei wird ein KI-Agent durch Schadcode getäuscht, der in Benutzeroberflächenkomponenten, Dokumenten oder Anwendungen eingebettet ist. Dieser Schadcode kann die ursprünglichen Anweisungen überschreiben und den Chatbot zu schädlichen Aktionen zwingen, wie beispielsweise dem Kopieren sensibler Dateien oder dem Auslesen von Daten.

Sicherheitsforscher warnen davor, dass GUI-basierte KI-Systeme besonders anfällig für diese Art indirekter Angriffe sind, da sie oft über sehr hohe Berechtigungen verfügen. Obwohl Microsoft die Risiken transparent kommuniziert hat, geriet Copilot in letzter Zeit aufgrund von Datenschutzbedenken in die Kritik und wird voraussichtlich nicht sofort zum Einsatz kommen.

Microsoft behauptet, die Agenten würden unter separaten Konten mit eingeschränkten Berechtigungen und Manipulationsschutzprotokollen laufen. Dennoch haben sie Lese- und Schreibzugriff auf einige der sensibelsten Bereiche Ihres PCs, wie Dokumente, Downloads, Desktop, Videos, Bilder und Musik.

Ziel ist es, alle Aufgaben durch KI zu ersetzen.

Der Agent Workspace bildet das Rückgrat von Microsofts Vision eines agentenbasierten Betriebssystems. Windows 11 kann nun separate Sitzungen für diesen Agenten erstellen und verspricht, Funktionen wie das Bearbeiten von Dateien und das Verschieben von Dokumenten ohne Benutzereingriff auszuführen.

Jeder Agent verfügt über ein eigenes Standardkonto auf dem PC, das einer parallelen Windows-Umgebung ähnelt, aber die Hauptarbeitssitzung nicht direkt beeinflusst. Innerhalb dieser Umgebung interagiert der Chatbot mit Anwendungen wie ein Mensch, z. B. durch Klicken auf Schaltflächen, Eingeben von Text, Scrollen in Fenstern, Verschieben von Dateien per Drag & Drop und Ausführen mehrstufiger Aufgaben.

So aktivieren Sie KI-bezogene Funktionen unter Windows 11.

Der Agentenarbeitsbereich legt fest, welche Inhalte Agenten angezeigt werden. Microsoft verwendet außerdem Zugriffskontrolllisten, um zu verhindern, dass Konten ihre Berechtigungen überschreiten. Um diese Funktionen zu aktivieren, müssen Benutzer die experimentellen Agentenfunktionen aktivieren, die standardmäßig deaktiviert sind.

Für Microsoft ist die Integration von KI in PCs angesichts des harten Wettbewerbs ein unumkehrbarer Schritt. Auch Apple arbeitet intensiv an der Entwicklung von Apple Intelligence, insbesondere im Hinblick auf die geplante Nutzung einer angepassten Version von Gemini. Google plant ebenfalls den Einstieg in den PC-Markt mit Aluminum OS.

Während Apples kommendes, preisgünstiges MacBook mit einer Vollversion von Apple Intelligence viel diskutiert wurde, wurde Windows 11 für seine umständliche Bedienung und die langsame Verarbeitung von Aufgaben kritisiert. Microsofts vorherige KI-Funktion „Recall“ stieß aufgrund mangelnder Sicherheit auf Kritik.

„Agentenbasierte“ Betriebssysteme sind für alle Anbieter wohl unvermeidlich. Laut Window Latest kommt es jedoch auf die Implementierung an, und Microsoft muss das Vertrauen der Nutzer in seine KI-Technologie zurückgewinnen.

Quelle: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html