Microsoft asume riesgos

A pesar de haber sido transparente sobre los riesgos que supone la integración de la IA en Windows 11, Microsoft aún necesita generar confianza en su implementación en comparación con sus competidores.

La pantalla de Windows 11 solicita permiso para usar el agente de IA. Imagen: Windows Latest .

En las últimas semanas, Microsoft ha estado intentando integrar agentes de IA en Windows. Sin embargo, incluso en su propia documentación, la compañía reconoce que esta tecnología puede ser propensa a "alucinaciones", comportarse de forma impredecible y ser engañada por tipos de ataques que no existían hace un año.

A mediados de octubre, Microsoft anunció que convertiría todos los ordenadores con Windows 11 en ordenadores con inteligencia artificial. La compañía lanzó una serie de nuevas integraciones de IA diseñadas para permitir la "conversación", lo que permite al ordenador ver lo que hay en la pantalla y actuar en su nombre.

Integración a pesar de los riesgos.

Las últimas novedades buscan transformar la barra de tareas de Windows 11 en un centro de IA. El cuadro de búsqueda de Windows 11 se está reemplazando por una interfaz llamada "Preguntar a Copilot", que permite a los usuarios acceder a Copilot con un solo clic o comando. Esto les permite supervisar qué agentes ejecutan tareas en segundo plano, de forma similar a como se gestionan las aplicaciones habituales.

Microsoft tampoco pretende que esta tecnología sea segura o esté libre de errores. La documentación oficial de la compañía advierte que los agentes de IA "tienen limitaciones funcionales en su comportamiento y, en ocasiones, pueden tener alucinaciones, lo que produce resultados inesperados".

La barra de tareas después de integrar el agente de IA.

Uno de los mayores riesgos mencionados es la inyección de mensajes cruzados (XPIA). En este caso, un agente de IA es engañado por contenido malicioso incrustado en componentes de la interfaz de usuario (UI), documentos o aplicaciones. Este contenido puede anular las instrucciones originales y obligar al chatbot a realizar acciones dañinas, como copiar archivos confidenciales o filtrar datos.

Investigadores de seguridad han advertido que los agentes de IA basados ​​en interfaces gráficas son particularmente vulnerables a este tipo de ataque indirecto, ya que suelen contar con privilegios muy elevados. Si bien Microsoft ha sido transparente respecto a los riesgos, Copilot ha recibido recientemente fuertes críticas en materia de privacidad y es poco probable que sea aceptado de inmediato.

Microsoft afirma que los agentes se ejecutarán con cuentas independientes, privilegios limitados y registros que impiden la edición. Sin embargo, seguirán teniendo acceso de lectura y escritura a algunas de las ubicaciones más privadas del PC, como Documentos, Descargas, Escritorio, Vídeos, Imágenes y Música.

El objetivo es que la IA reemplace todas las tareas.

Agent Workspace es la base de la visión de Microsoft para un sistema operativo basado en agentes (un sistema operativo impulsado por agentes de IA). Windows 11 ahora puede crear sesiones independientes para estos agentes, lo que promete realizar funciones como la edición de archivos y el movimiento de documentos sin la intervención del usuario.

Cada agente tendrá su propia cuenta estándar en el PC, que existirá esencialmente en un entorno Windows paralelo, pero sin afectar directamente a la sesión principal. Dentro, el chatbot interactúa con las aplicaciones como un humano: hace clic en botones de la interfaz, escribe texto, se desplaza por las ventanas, arrastra y suelta archivos y realiza tareas de varios pasos.

Cómo habilitar las funciones relacionadas con la inteligencia artificial en Windows 11.

El espacio de trabajo del agente se encarga de decidir qué se mostrará a los agentes. Microsoft también utiliza listas de control de acceso para evitar que las cuentas excedan sus privilegios. Para habilitar cualquiera de estas funciones, los usuarios deben activar las funciones experimentales de Agent, que están deshabilitadas de forma predeterminada.

Para Microsoft, integrar la IA en las PC es un paso irreversible ante la feroz competencia. Apple también está trabajando arduamente en el desarrollo de Apple Intelligence, especialmente porque planea usar una versión personalizada de Gemini. Google también planea entrar en el mercado de las PC con Aluminium OS.

Si bien el próximo MacBook económico de Apple, con su completa suite de inteligencia artificial, está generando mucha controversia, Windows 11 ya ha sido criticado por su interfaz engorrosa y su menor velocidad de procesamiento. La anterior función de IA de Microsoft, Recall, también ha recibido críticas por su deficiente seguridad.

Un sistema operativo "agente" es quizás inevitable para todos los proveedores. Sin embargo, según Windows Latest, la clave reside en la implementación, y Microsoft deberá recuperar la confianza de los usuarios en su tecnología de IA.

Fuente: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html