Microsoft lance un avertissement : l’IA sur Windows 11 est trop puissante.

Microsoft travaille actuellement au développement de Windows 11 et prévoit de le transformer en un système d'exploitation « agent » à l'avenir. Cependant, l'entreprise a mis en garde contre les risques potentiels liés à cette nouvelle fonctionnalité.

Avant de déployer des fonctionnalités expérimentales auprès des utilisateurs de Windows Insider, Microsoft conseille aux utilisateurs de Windows 11 de n'activer ces fonctionnalités que s'ils comprennent parfaitement les implications en matière de sécurité.

Selon BGR , Microsoft a confirmé que les composants d'agents d'IA (intelligence artificielle) seront désactivés par défaut car cette fonctionnalité pourrait présenter un risque d'attaques par injection croisée (XPIA).

Cette attaque se produit lorsque des applications d'IA obtiennent l'accès aux fichiers utilisateur, ce qui peut entraîner des fuites de données ou l'installation de logiciels malveillants. Les comptes d'agent, créés lorsque les fonctionnalités d'agent d'IA sont activées, disposent d'un accès limité aux dossiers de profil utilisateur, mais peuvent néanmoins provoquer des conséquences imprévues.

Baptisés Agent Workspace, les composants expérimentaux d'agents d'IA sont désormais disponibles en version préliminaire pour les développeurs et seront bientôt déployés auprès d'un plus grand nombre d'utilisateurs.

Bien qu'aucune application ne prenne actuellement en charge cette fonctionnalité, Copilot aura bientôt accès à l'espace de travail de l'agent. Cependant, cela soulève également des problèmes de confidentialité, car Copilot pourrait voir l'intégralité de l'écran de l'utilisateur.

Microsoft considère certains composants d'Agent Workspace comme très dangereux, c'est pourquoi ils sont désactivés par défaut.

Microsoft souligne que la sécurité n'est pas une fonctionnalité temporaire, mais un engagement continu qui sera adapté au fil du temps. Agent Workspace est conçu pour permettre aux applications d'IA d'accéder aux fichiers en arrière-plan, pendant que les utilisateurs continuent d'utiliser leurs appareils.

Cependant, les utilisateurs peuvent toujours gérer les autorisations d'accès et arrêter l'agent si nécessaire. Actuellement, de nombreuses personnes expriment encore leurs inquiétudes et leurs désaccords concernant cette nouvelle fonctionnalité sur les forums en ligne.

Néanmoins, Microsoft estime qu'à mesure que davantage d'utilisateurs auront accès aux fonctionnalités expérimentales de l'agent d'IA, ils disposeront de plus d'informations sur leur fonctionnement et leur niveau de sécurité.