A Microsoft emitiu um alerta porque a inteligência artificial no Windows 11 está muito poderosa.

A Microsoft está desenvolvendo o Windows 11, com planos de transformá-lo em um "sistema operacional com agentes" no futuro. No entanto, a empresa emitiu um alerta sobre os riscos potenciais associados a esse novo recurso.

Antes de disponibilizar recursos experimentais para usuários do Windows Insider, a Microsoft recomenda que os usuários do Windows 11 habilitem esses recursos somente se compreenderem completamente as implicações de segurança.

Segundo o BGR , a Microsoft confirmou que os componentes do agente de IA (inteligência artificial) serão desativados por padrão, pois esse recurso pode representar um risco de ataques de injeção cruzada (XPIA).

Esse ataque ocorre quando aplicativos de IA recebem acesso aos arquivos do usuário, o que pode levar a vazamentos de dados ou à instalação de malware. Contas com agentes, concedidas quando os recursos de agentes de IA estão ativados, terão acesso limitado às pastas de perfil do usuário, mas ainda assim podem causar consequências indesejadas.

Chamados de Agent Workspace, os componentes experimentais de agentes de IA já estão disponíveis em versão prévia para desenvolvedores e em breve serão disponibilizados para mais usuários.

Embora nenhum aplicativo atualmente suporte esse recurso, o Copilot em breve terá acesso ao Espaço de Trabalho do Agente. No entanto, isso também levanta preocupações com a privacidade, já que o Copilot poderá ver a tela inteira do usuário.

A Microsoft considera certos componentes do Agent Workspace muito perigosos, por isso eles estão desativados por padrão.

A Microsoft enfatiza que a segurança não é um recurso temporário, mas sim um compromisso contínuo que será ajustado ao longo do tempo. O Agent Workspace foi projetado para permitir que aplicativos de IA acessem arquivos em segundo plano, enquanto os usuários continuam usando seus dispositivos.

No entanto, os usuários ainda podem gerenciar as permissões de acesso e interromper o agente quando necessário. Atualmente, muitas pessoas ainda expressam preocupações e discordâncias sobre esse novo recurso em fóruns online.

No entanto, a Microsoft acredita que, à medida que mais usuários tiverem acesso aos recursos experimentais do agente de IA, eles terão mais informações sobre como eles funcionam e o quão seguros são.