A Microsoft assume riscos.

Apesar de ter sido transparente sobre os riscos representados pela integração da IA ​​no Windows 11, a Microsoft ainda precisa construir confiança na sua implementação em comparação com os seus concorrentes.

A tela do Windows 11 solicita permissão para usar o agente de IA. Imagem: Windows Latest .

Nas últimas semanas, a Microsoft tem tentado integrar agentes de IA ao Windows. Mas mesmo em sua própria documentação, a empresa reconhece que essa tecnologia pode ser propensa a "alucinações", comportar-se de maneira imprevisível e ser enganada por tipos de ataques que não existiam há um ano.

Em meados de outubro, a Microsoft anunciou que estava "transformando todos os PCs com Windows 11 em PCs com IA". A empresa lançou uma série de novas integrações de IA projetadas para permitir a "conversação", permitindo que o computador veja o que está na tela e aja em seu nome.

Integração apesar dos riscos.

As últimas mudanças visam transformar a barra de tarefas do Windows 11 em um centro de IA. A caixa de pesquisa do Windows 11 está sendo substituída por uma interface "Pergunte ao Copilot", permitindo que os usuários acessem o Copilot com um único clique ou comando. Isso possibilita que os usuários monitorem quais agentes estão executando tarefas em segundo plano, de forma semelhante ao gerenciamento de aplicativos comuns.

A Microsoft também não finge que essa tecnologia é segura ou livre de erros. A documentação oficial da empresa alerta que os agentes de IA "têm limitações funcionais em seu comportamento e às vezes podem ter alucinações, produzindo resultados inesperados".

A barra de tarefas após a integração do agente de IA.

Um dos maiores riscos mencionados é a Injeção Cruzada de Instrução (XPIA). Nesse tipo de ataque, um agente de IA é enganado por conteúdo malicioso incorporado em componentes da interface do usuário (IU), documentos ou aplicativos. Esse conteúdo pode substituir as instruções originais e forçar o chatbot a executar ações prejudiciais, como copiar arquivos confidenciais ou vazar dados.

Pesquisadores de segurança alertaram que agentes de IA baseados em interfaces gráficas são particularmente vulneráveis ​​a esse tipo de ataque indireto, pois frequentemente recebem privilégios muito elevados. Embora a Microsoft tenha sido transparente sobre os riscos, o Copilot enfrentou recentemente intensas críticas em relação à privacidade e é improvável que seja aceito imediatamente.

A Microsoft afirma que os agentes serão executados em contas separadas com privilégios limitados e registros anti-edição. No entanto, eles ainda terão acesso de leitura e gravação a alguns dos locais mais privados do PC, como Documentos, Downloads, Área de Trabalho, Vídeos, Imagens e Músicas.

A ambição é que a IA substitua todas as tarefas.

O Agent Workspace é a espinha dorsal da visão da Microsoft para um SO Agético (um sistema operacional alimentado por agentes de IA). O Windows 11 agora pode criar sessões separadas para esses agentes, prometendo executar funções como edição de arquivos e movimentação de documentos sem intervenção do usuário.

Cada agente terá sua própria conta padrão no PC, existindo essencialmente em um ambiente Windows paralelo, mas sem impactar diretamente a sessão principal. Nesse ambiente, o chatbot interage com os aplicativos como um humano, clicando em botões da interface, digitando texto, rolando janelas, arrastando e soltando arquivos e executando tarefas com várias etapas.

Como ativar recursos relacionados à IA no Windows 11.

O Espaço de Trabalho do Agente é responsável por decidir o que será exibido aos agentes. A Microsoft também usa Listas de Controle de Acesso para impedir que as contas excedam seus privilégios. Para habilitar qualquer um desses recursos, os usuários precisam ativar os Recursos Experimentais de Agentes, que estão desabilitados por padrão.

Para a Microsoft, integrar IA em PCs é um passo irreversível diante da forte concorrência. A Apple também está trabalhando arduamente no desenvolvimento da Apple Intelligence, especialmente porque planeja usar uma versão personalizada do Gemini. O Google também planeja entrar no mercado de PCs com o Aluminium OS.

Embora o MacBook de baixo custo da Apple, com seu pacote completo de inteligência artificial, esteja gerando muita discussão, o Windows 11 já foi criticado por sua natureza complexa e velocidades de processamento mais lentas. O recurso anterior de IA da Microsoft, o Recall, também enfrentou reações negativas devido à sua segurança deficiente.

Um sistema operacional "agente" é talvez inevitável para todos os fornecedores. No entanto, de acordo com o Windows Latest, a chave está na implementação, e a Microsoft precisará reconquistar a confiança do usuário em sua tecnologia de IA.

Fonte: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html