Microsoft emite una advertencia porque la IA en Windows 11 es demasiado potente.

Microsoft está desarrollando Windows 11, con planes de transformarlo en un sistema operativo con agentes en el futuro. Sin embargo, la compañía ha advertido sobre los riesgos potenciales asociados con esta nueva función.

Antes de implementar funciones experimentales para los usuarios de Windows Insider, Microsoft recomienda a los usuarios de Windows 11 que solo habiliten estas funciones si comprenden completamente las implicaciones de seguridad.

Según BGR , Microsoft ha confirmado que los componentes de agentes de IA (inteligencia artificial) estarán deshabilitados de forma predeterminada porque esta función podría suponer un riesgo de ataques de inyección entre mensajes (XPIA).

Este ataque se produce cuando las aplicaciones de IA obtienen acceso a los archivos del usuario, lo que puede provocar fugas de datos o la instalación de malware. Las cuentas de agente, que se otorgan al habilitar las funciones de agente de IA, tendrán acceso limitado a las carpetas de perfil del usuario, pero aun así pueden causar consecuencias no deseadas.

Los componentes experimentales del agente de IA, denominados Agent Workspace, ya están disponibles en versión preliminar para desarrolladores y pronto se implementarán para más usuarios.

Aunque actualmente ninguna aplicación es compatible con esta función, Copilot pronto tendrá acceso al espacio de trabajo del agente. Sin embargo, esto también plantea problemas de privacidad, ya que Copilot podría ver toda la pantalla del usuario.

Microsoft considera que ciertos componentes de Agent Workspace son muy peligrosos, por lo que están deshabilitados de forma predeterminada.

Microsoft subraya que la seguridad no es una función temporal, sino un compromiso continuo que se irá ajustando con el tiempo. Agent Workspace está diseñado para permitir que las aplicaciones de IA accedan a los archivos en segundo plano, mientras los usuarios siguen utilizando sus dispositivos.

Sin embargo, los usuarios aún pueden gestionar los permisos de acceso y detener el agente cuando sea necesario. Actualmente, muchas personas siguen expresando inquietudes y desacuerdos sobre esta nueva función en foros en línea.

No obstante, Microsoft cree que a medida que más usuarios accedan a las funciones experimentales del agente de IA, tendrán más información sobre cómo funcionan y cuán seguras son.