Microsoft emite una advertencia porque la IA en Windows 11 es demasiado "poderosa"

Gracias al poder de la IA, Microsoft también cree que Windows 11 está en proceso de evolucionar hacia un "sistema operativo agresivo" en el futuro.

Microsoft está desarrollando Windows 11 y planea convertirlo en un sistema operativo agresivo en el futuro. Sin embargo, la compañía ha advertido sobre los posibles riesgos asociados a esta nueva función.

Antes de implementar funciones experimentales para los Windows Insiders, Microsoft recomienda que los usuarios de Windows 11 solo habiliten estas funciones si comprenden las implicaciones de seguridad.

Se recomienda a los usuarios que tengan cuidado al otorgar acceso a los componentes del agente de IA.

Según BGR , Microsoft confirmó que los componentes del agente de IA (inteligencia artificial) se desactivarán de forma predeterminada porque esta característica puede provocar riesgos de ataques de inyección de mensajes cruzados (XPIA).

Este ataque ocurre cuando las aplicaciones de IA obtienen acceso a los archivos del usuario, lo que puede provocar fugas de datos o la instalación de malware. Las cuentas de agente, otorgadas al habilitar las funciones del agente de IA, tienen acceso limitado a la carpeta del perfil del usuario, pero aun así pueden causar consecuencias no deseadas.

Los componentes experimentales del agente de IA, denominados Agent Workspace, ahora están disponibles en versión preliminar para desarrolladores y pronto se implementarán para más usuarios.

Aunque ninguna aplicación es compatible con esta función todavía, Copilot pronto tendrá acceso al Espacio de Trabajo del Agente. Sin embargo, esto también plantea problemas de privacidad, ya que Copilot puede ver la pantalla completa del usuario.

Microsoft considera que los componentes del espacio de trabajo del agente son peligrosos y están deshabilitados de forma predeterminada.

Microsoft enfatiza que la seguridad no es una característica temporal, sino un compromiso continuo que se irá perfeccionando con el tiempo. Agent Workspace está diseñado para permitir que las aplicaciones de IA accedan a archivos en segundo plano mientras los usuarios siguen usando sus dispositivos.

Sin embargo, los usuarios aún pueden gestionar el acceso y detener el agente cuando sea necesario. Actualmente, muchas personas aún expresan inquietudes y desacuerdos sobre esta nueva función en foros en línea.

Aun así, Microsoft cree que a medida que más usuarios tengan acceso a las funciones experimentales del agente de IA, tendrán más información sobre cómo funcionan y qué tan seguros son.

Microsoft introduce funciones de IA en Agent 365.

Fuente: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html