Microsoft prend des risques

Bien que Microsoft fasse preuve de transparence quant aux risques posés par les agents d'IA intégrés à Windows 11, l'entreprise doit encore gagner la confiance du public dans sa mise en œuvre par rapport à ses concurrents.

Écran de Windows 11 demandant l'autorisation d'utiliser un agent d'IA. Photo : Windows Latest .

Ces dernières semaines, Microsoft s'est efforcé d'intégrer des agents d'IA à Windows. Or, même la documentation de l'entreprise admet que cette technologie peut être « trompée », avoir un comportement imprévisible, voire être dupée par des attaques qui n'existaient pas il y a un an.

À la mi-octobre, Microsoft a annoncé qu'elle « transformait chaque PC Windows 11 en un PC doté d'IA ». L'entreprise a lancé une série de nouvelles intégrations d'IA qui permettraient des « conversations », permettant à l'ordinateur de voir ce qui est à l'écran et d'agir en son nom.

Intégrez à vos propres risques

Les dernières nouveautés visent à transformer la barre des tâches de Windows 11 en un centre d'intelligence artificielle. La zone de recherche est remplacée par une interface « Demander à Copilot », permettant d'appeler Copilot d'un simple clic ou d'une commande. Vous pouvez ainsi surveiller les agents capables d'exécuter des tâches en arrière-plan, comme vous le feriez pour des applications classiques.

Microsoft ne prétend pas non plus que cette technologie soit sûre ou infaillible. Sa documentation officielle avertit que les agents d'IA « présentent des limitations fonctionnelles dans leur comportement et peuvent parfois avoir des hallucinations, entraînant des conséquences imprévues ».

Barre des tâches après intégration de l'agent IA.

L'un des principaux risques mentionnés est l'injection inter-invites (XPIA). Dans ce cas, un agent d'IA est trompé par un contenu malveillant intégré aux composants de l'interface utilisateur, aux documents ou aux applications. Ce contenu peut modifier les instructions initiales et contraindre le chatbot à effectuer des actions nuisibles telles que la copie de fichiers sensibles ou la fuite de données.

Des chercheurs en sécurité ont averti que les agents d'IA à interface graphique sont particulièrement vulnérables à ce type d'attaques indirectes, car ils disposent souvent de privilèges très élevés. Bien que Microsoft ait fait preuve de transparence quant aux risques, Copilot a récemment été critiqué pour des problèmes de confidentialité et son adoption immédiate est peu probable.

Microsoft affirme que ces agents fonctionnent sous des comptes distincts, avec des autorisations limitées et des journaux d'activité inviolables. Cependant, ils conservent un accès en lecture et en écriture à certains des emplacements les plus privés de votre PC, tels que Documents, Téléchargements, Bureau, Vidéos, Images et Musique.

L'ambition de remplacer toutes les tâches par l'IA

L'espace de travail de l'agent est au cœur de la vision de Microsoft d'un système d'exploitation axé sur les agents. Windows 11 peut désormais créer des sessions distinctes pour cet agent, permettant ainsi d'effectuer des opérations telles que l'édition de fichiers et le déplacement de documents sans intervention de l'utilisateur.

Chaque agent disposera de son propre compte standard sur le PC, fonctionnant comme un environnement Windows parallèle mais sans incidence directe sur la session de travail principale. Au sein de cet environnement, le chatbot interagit avec les applications de la même manière qu'un humain : clics sur les boutons de l'interface, saisie de texte, défilement des fenêtres, glisser-déposer des fichiers et exécution de tâches complexes.

Comment activer les fonctionnalités liées à l'IA sous Windows 11.

L'espace de travail de l'agent détermine le contenu affiché aux agents. Microsoft utilise également des listes de contrôle d'accès pour empêcher les comptes d'outrepasser leurs autorisations. Pour activer ces fonctionnalités, les utilisateurs doivent activer les fonctionnalités expérimentales pour agents, désactivées par défaut.

Pour Microsoft, l'intégration de l'IA dans les PC est une étape irréversible dans un contexte de concurrence féroce. Apple travaille également activement au développement d'Apple Intelligence, notamment en prévoyant d'utiliser une version personnalisée de Gemini. Google envisage également de se lancer sur le marché des PC avec Aluminum OS.

Alors que le prochain MacBook d'Apple à bas prix, doté d'une version complète d'Apple Intelligence, a fait couler beaucoup d'encre, Windows 11 a été critiqué pour son manque de fluidité et sa lenteur d'exécution. L'ancienne fonctionnalité d'IA de Microsoft, Recall, a quant à elle suscité de vives critiques en raison de ses failles de sécurité.

Les systèmes d'exploitation « agents » sont probablement inévitables pour tous les fournisseurs. Cependant, selon Windows Latest, l'important est la mise en œuvre, et Microsoft devra regagner la confiance des utilisateurs dans sa technologie d'IA.

Source : https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html