A Microsoft assume riscos.

Embora a Microsoft seja transparente sobre os riscos representados pelos agentes de IA integrados ao Windows 11, ela ainda precisa construir confiança em sua implementação em comparação com os concorrentes.

Tela do Windows 11 solicitando permissão para usar o agente de IA. Foto: Windows Latest .

Nas últimas semanas, a Microsoft tem trabalhado para integrar agentes de IA ao Windows. Mas até mesmo a documentação da própria empresa admite que a tecnologia pode ser "ilusória", comportar-se de maneira imprevisível e até mesmo ser enganada por ataques que não existiam há um ano.

Em meados de outubro, a Microsoft anunciou que estava "transformando todos os PCs com Windows 11 em PCs com IA". A empresa lançou uma série de novas integrações de IA que possibilitariam "conversas", permitindo que o computador visse o que está na tela e agisse em seu nome.

Integre por sua conta e risco.

As últimas mudanças visam transformar a barra de tarefas do Windows 11 em um centro de IA. A caixa de pesquisa do Windows 11 está sendo substituída por uma interface "Pergunte ao Copilot", que permite acionar o Copilot com um único clique ou comando. A partir daí, você pode monitorar agentes que executam tarefas em segundo plano, da mesma forma que gerencia aplicativos comuns.

A Microsoft também não finge que a tecnologia é segura ou infalível. Sua documentação oficial alerta que os agentes de IA "têm limitações funcionais em seu comportamento e às vezes podem ter alucinações, criando resultados não intencionais".

Barra de tarefas após a integração do agente de IA.

Um dos maiores riscos mencionados é a Injeção de Instrução Cruzada (XPIA). Nesse tipo de ataque, um agente de IA é enganado por conteúdo malicioso incorporado em componentes da interface do usuário (IU), documentos ou aplicativos. Esse conteúdo pode substituir as instruções originais e forçar o chatbot a executar ações prejudiciais, como copiar arquivos confidenciais ou vazar dados.

Pesquisadores de segurança alertaram que agentes de IA baseados em interface gráfica são particularmente vulneráveis ​​a esses tipos de ataques indiretos, pois geralmente possuem privilégios muito elevados. Embora a Microsoft tenha sido transparente sobre os riscos, o Copilot tem sido alvo de críticas recentemente devido a preocupações com a privacidade e é improvável que seja adotado imediatamente.

A Microsoft afirma que os agentes são executados em contas separadas, com permissões limitadas e registros anti-adulteração. No entanto, eles ainda têm acesso de leitura e gravação a alguns dos locais mais privados do seu PC, como Documentos, Downloads, Área de Trabalho, Vídeos, Imagens e Músicas.

A ambição de substituir todas as tarefas por IA

O Espaço de Trabalho do Agente é a espinha dorsal da visão da Microsoft para um sistema operacional baseado em agentes. O Windows 11 agora pode criar sessões separadas para esse agente, prometendo executar funções como editar arquivos e mover documentos sem a necessidade de um usuário.

Cada agente terá sua própria conta padrão no PC, que funciona como um ambiente Windows paralelo, mas não afeta diretamente a sessão de trabalho principal. Dentro dessa conta, o chatbot interage com os aplicativos da mesma forma que um humano, clicando em botões da interface, digitando texto, rolando janelas, arrastando e soltando arquivos e executando tarefas com várias etapas.

Como ativar recursos relacionados à IA no Windows 11.

O Espaço de Trabalho do Agente é responsável por decidir o que é exibido aos agentes. A Microsoft também usa Listas de Controle de Acesso para impedir que as contas ultrapassem seus limites de autoridade. Para habilitar qualquer um desses recursos, os usuários precisam ativar os Recursos Experimentais de Agentes, que estão desabilitados por padrão.

Para a Microsoft, integrar IA em PCs é um passo irreversível em um cenário de forte concorrência. A Apple também está empenhada em desenvolver a Apple Intelligence, especialmente com o uso de uma versão personalizada do Gemini. O Google também planeja entrar no mercado de PCs com o Aluminum OS.

Embora o MacBook de baixo custo da Apple, com uma versão completa da Inteligência Artificial da Apple, tenha sido amplamente comentado, o Windows 11 tem sido criticado por sua lentidão e desempenho no processamento de tarefas. O recurso anterior de IA da Microsoft, o Recall, também recebeu críticas devido à sua segurança deficiente.

Sistemas operacionais com "agentes" provavelmente serão inevitáveis ​​para todos os fornecedores. No entanto, de acordo com o Windows Latest, o importante é a implementação, e a Microsoft precisará reconquistar a confiança dos usuários em sua tecnologia de IA.

Fonte: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html