Microsoft prend des risques

Malgré la transparence dont Microsoft fait preuve concernant les risques liés à l'intégration de l'IA dans Windows 11, l'entreprise doit encore gagner la confiance du public quant à sa mise en œuvre par rapport à ses concurrents.

L'écran de Windows 11 demande l'autorisation d'utiliser l'agent d'IA. Image : Windows Latest .

Ces dernières semaines, Microsoft s'est efforcé d'intégrer des agents d'IA à Windows. Cependant, même dans sa propre documentation, l'entreprise reconnaît que cette technologie peut être sujette à des « hallucinations », se comporter de manière imprévisible et être trompée par des types d'attaques qui n'existaient pas il y a un an.

À la mi-octobre, Microsoft a annoncé qu'elle « transformait chaque PC Windows 11 en un PC doté d'IA ». L'entreprise a lancé une série de nouvelles intégrations d'IA conçues pour permettre la « conversation », permettant à l'ordinateur de voir ce qui est à l'écran et d'agir en son nom.

L'intégration malgré les risques.

Les dernières modifications visent à transformer la barre des tâches de Windows 11 en un centre d'intelligence artificielle. La zone de recherche est remplacée par une interface « Demander à Copilot », permettant d'accéder à Copilot d'un simple clic ou d'une commande. Les utilisateurs peuvent ainsi surveiller les agents exécutant des tâches en arrière-plan, comme pour les applications classiques.

Microsoft ne prétend pas non plus que cette technologie soit sûre ou exempte d'erreurs. La documentation officielle de l'entreprise avertit que les agents d'IA « présentent des limitations fonctionnelles dans leur comportement et peuvent parfois avoir des hallucinations, produisant des résultats inattendus ».

La barre des tâches après l'intégration de l'agent IA.

L'un des principaux risques mentionnés est l'injection inter-invites (XPIA). Dans ce cas, un agent d'IA est trompé par un contenu malveillant intégré aux composants de l'interface utilisateur, aux documents ou aux applications. Ce contenu peut modifier les instructions initiales et contraindre le chatbot à effectuer des actions nuisibles telles que la copie de fichiers sensibles ou la fuite de données.

Des chercheurs en sécurité ont averti que les agents d'IA basés sur des interfaces graphiques sont particulièrement vulnérables à ce type d'attaque indirecte, car ils bénéficient souvent de privilèges très élevés. Bien que Microsoft ait fait preuve de transparence quant aux risques, Copilot a récemment fait l'objet de vives critiques concernant le respect de la vie privée et il est peu probable qu'il soit adopté immédiatement.

Microsoft affirme que les agents s'exécuteront sous des comptes distincts dotés de privilèges limités et de journaux d'activité protégés contre toute modification. Ils conserveront toutefois un accès en lecture et en écriture à certains des emplacements les plus privés du PC, tels que Documents, Téléchargements, Bureau, Vidéos, Images et Musique.

L'ambition est que l'IA remplace toutes les tâches.

Agent Workspace est au cœur de la vision de Microsoft pour un système d'exploitation piloté par des agents d'IA. Windows 11 peut désormais créer des sessions distinctes pour ces agents, promettant d'exécuter des fonctions telles que l'édition de fichiers et le déplacement de documents sans intervention de l'utilisateur.

Chaque agent disposera de son propre compte standard sur le PC, fonctionnant dans un environnement Windows parallèle sans impacter directement la session principale. Au sein de cet environnement, le chatbot interagit avec les applications comme un humain : il clique sur les boutons de l’interface, saisit du texte, fait défiler les fenêtres, glisse-dépose des fichiers et effectue des tâches complexes.

Comment activer les fonctionnalités liées à l'IA sous Windows 11.

L'espace de travail de l'agent détermine les informations affichées aux agents. Microsoft utilise également des listes de contrôle d'accès pour empêcher les comptes de dépasser leurs privilèges. Pour activer ces fonctionnalités, les utilisateurs doivent activer les fonctionnalités expérimentales pour agents, désactivées par défaut.

Pour Microsoft, l'intégration de l'IA dans les PC est une étape incontournable face à une concurrence féroce. Apple travaille également activement au développement d'Apple Intelligence, notamment en prévoyant d'utiliser une version personnalisée de Gemini. Google envisage également de se lancer sur le marché des PC avec Aluminium OS.

Alors que le prochain MacBook d'entrée de gamme d'Apple, doté de la suite Apple Intelligence complète, suscite de nombreuses discussions, Windows 11 est déjà critiqué pour sa complexité et sa lenteur. La précédente fonctionnalité d'IA de Microsoft, Recall, a également essuyé des critiques en raison de ses failles de sécurité.

Un système d'exploitation « agentique » est sans doute inévitable pour tous les fournisseurs. Cependant, selon Windows Latest, la clé réside dans sa mise en œuvre, et Microsoft devra regagner la confiance des utilisateurs dans sa technologie d'IA.

Source : https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html