A Microsoft emitiu um alerta porque a inteligência artificial no Windows 11 é "poderosa demais".

Graças ao poder da IA, a Microsoft também acredita que o Windows 11 está em processo de evolução para um "sistema operacional agressivo" no futuro.

A Microsoft está desenvolvendo o Windows 11, com planos de transformá-lo em um "sistema operacional agressivo" no futuro. No entanto, a empresa emitiu um alerta sobre os riscos potenciais associados a esse novo recurso.

Antes de disponibilizar recursos experimentais para os participantes do programa Windows Insider, a Microsoft recomenda que os usuários do Windows 11 habilitem esses recursos somente se compreenderem as implicações de segurança.

Recomenda-se aos usuários que tenham cautela ao conceder acesso aos componentes do agente de IA.

Segundo o BGR , a Microsoft confirmou que os componentes do agente de IA (inteligência artificial) serão desativados por padrão, pois esse recurso pode causar riscos de ataque de injeção entre prompts (XPIA).

Esse ataque ocorre quando aplicativos de IA recebem acesso aos arquivos do usuário, o que pode levar a vazamentos de dados ou à instalação de malware. Contas com agentes, concedidas quando os recursos de agentes de IA estão ativados, têm acesso limitado à pasta de perfil do usuário, mas ainda assim apresentam o potencial de causar consequências indesejadas.

Chamados de Agent Workspace, os componentes experimentais de agentes de IA já estão disponíveis em versão prévia para desenvolvedores e em breve serão disponibilizados para mais usuários.

Embora nenhum aplicativo ainda suporte esse recurso, o Copilot em breve terá acesso ao Espaço de Trabalho do Agente. No entanto, isso também levanta preocupações com a privacidade, já que o Copilot poderá ver a tela inteira do usuário.

Os componentes do Agent Workspace são considerados perigosos pela Microsoft e estão desativados por padrão.

A Microsoft enfatiza que a segurança não é um recurso temporário, mas um compromisso contínuo que será aprimorado ao longo do tempo. O Agent Workspace foi projetado para permitir que aplicativos de IA acessem arquivos em segundo plano, enquanto os usuários continuam usando seus dispositivos.

No entanto, os usuários ainda podem gerenciar o acesso e interromper o agente quando necessário. Atualmente, muitas pessoas ainda expressam preocupações e discordâncias sobre esse novo recurso em fóruns online.

Ainda assim, a Microsoft acredita que, à medida que mais usuários tiverem acesso aos recursos experimentais de agentes de IA, eles terão mais informações sobre como esses recursos funcionam e o quão seguros eles são.

A Microsoft introduz funcionalidades de IA no Agent 365.

Fonte: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html