Riscos do assistente de IA "onisciente" da Moltbot

O Moltbot se destaca por sua capacidade de executar automaticamente tarefas atribuídas pelo usuário. Foto: Moltbot .

O Moltbot, anteriormente conhecido como Clawdbot, é um agente de IA que funciona localmente em vários dispositivos. Os usuários podem instruir o Moltbot a realizar tarefas em seu nome por meio de plataformas de mensagens populares, como WhatsApp, Telegram, Signal, Discord ou iMessage. Nas redes sociais, muitas pessoas compartilham como usam o Moltbot para gerenciar lembretes, registrar dados de saúde ou até mesmo se comunicar com clientes.

Federico Viticci, editor do MacStories , disse que instalou o Moltbot em um Mac Mini M4 e o transformou em uma ferramenta para criar resumos diários em áudio com base em dados dos aplicativos Calendário, Notion e Todoist. Em outro caso, um usuário compartilhou que o Moltbot conseguia gerar automaticamente expressões faciais animadas e adicionar um efeito de "dormir" sem intervenção manual.

Em termos de funcionamento, o Moltbot encaminha as solicitações do usuário para o provedor de IA escolhido, incluindo OpenAI, Anthropic ou Google. Como muitos outros assistentes, ele pode preencher formulários diretamente no navegador, enviar e-mails e gerenciar calendários. No entanto, de acordo com o feedback de alguns usuários, o Moltbot executa essas tarefas com mais eficiência e flexibilidade.

No entanto, isso também exige que os usuários concedam acesso muito profundo ao sistema do computador, incluindo leitura e gravação de arquivos e execução de comandos. Combinar privilégios de administrador do dispositivo com credenciais de login de aplicativos pode criar sérios riscos de segurança se não for rigorosamente controlado.

Rachel Tobac, CEO da SocialProof Security, alerta que, se um agente de IA como o Moltbot obtiver privilégios administrativos em um computador, invasores poderão tentar assumir o controle do sistema por meio de uma única mensagem. Segundo ela, agentes de IA automatizados podem ser explorados por meio de ataques de injeção de prompt, uma vulnerabilidade já identificada, mas que ainda não possui uma solução definitiva. Ataques de injeção de prompt ocorrem quando um invasor manipula a IA com instruções maliciosas, enviadas diretamente ou ocultas em arquivos, e-mails ou sites que a IA processa.

O Moltbot pode representar um risco de segurança. Foto: Moltbot .

Essas preocupações foram ainda mais reforçadas quando Jamieson O'Reilly, especialista em segurança e fundador da empresa de cibersegurança Dvuln, descobriu que algumas mensagens privadas, informações de login de contas e chaves de API relacionadas ao Moltbot haviam sido vazadas online.

Assim, esses dados poderiam ser explorados por hackers para roubar informações ou realizar outros ataques. Ele disse que relatou o problema à equipe de desenvolvimento do Moltbot e que uma correção já foi lançada, de acordo com o The Register .

Fonte: https://znews.vn/rui-ro-tu-tro-ly-ai-biet-tuot-moltbot-post1623740.html