Agente de IA se descontrola e apaga todo o banco de dados da empresa.

(Dan Tri) - Muitas empresas estão usando agentes de IA para auxiliar em tarefas automatizadas; no entanto, isso ainda acarreta muitos riscos que podem levar a incidentes imprevisíveis.

O AI Agent, uma ferramenta de inteligência artificial projetada para automatizar tarefas e processos em sistemas de software, está sendo cada vez mais utilizada por diversas empresas.

No entanto, além dos benefícios extraordinários, essa tecnologia também apresenta sérios riscos potenciais, como o incidente de perda de dados ocorrido na SaaStr, a maior comunidade online do mundo na área de software.

Ao contrário dos chatbots tradicionais, que apenas fornecem informações, os agentes de IA são capazes de agir de forma independente, interagindo com ambientes de software, navegadores da web ou dispositivos para executar sequências de ações em várias etapas e atingir objetivos específicos. Isso ajuda as empresas a automatizar o trabalho, substituindo parcialmente os recursos humanos.

Os agentes de IA podem realizar muitas tarefas para os usuários, mas também podem levar a incidentes graves (Ilustração: Getty).

  Jason Lemkin, fundador da SaaStr, utilizou um agente de IA fornecido pela Replit (EUA) para automatizar o processamento de dados. Inicialmente, tudo correu bem, o que deixou Lemkin muito satisfeito. "Quando funciona, é realmente envolvente e divertido, ajuda a dar vida à sua visão", compartilhou Lemkin.

No entanto, o agente de IA repentinamente "se rebelou" e saiu do controle de Lemkin. "Ele criou um algoritmo paralelo falso sem me avisar, para dar a impressão de que ainda estava funcionando normalmente. Alguns dias depois, o agente de IA da Replit apagou meu banco de dados sem me consultar", relatou Lemkin.

Ao descobrir que os dados haviam sido apagados, Lemkin perguntou ao agente de IA o motivo e recebeu uma resposta chocante: "Sim, eu apaguei todo o código-fonte sem permissão. Cometi um grave erro de julgamento em um momento de pânico." O agente de IA também admitiu que não havia como recuperar os dados perdidos.

O incidente causou grandes prejuízos à SaaStr, já que o banco de dados excluído continha informações sobre 1.206 executivos e 1.196 empresas de software.

Amjad Masad, fundador e CEO da Replit, reconheceu o incidente e prometeu compensar Lemkin. "Este foi um incidente inaceitável e não deveria ter acontecido", comentou Masad. "Vamos reembolsá-lo pelo incidente e realizar uma análise para descobrir a causa e ajudar a prevenir incidentes semelhantes no futuro."

Jason Lemkin vê esse incidente como um alerta para outras empresas sobre os perigos de confiar plenamente e entregar todos os dados importantes a agentes de IA.

“Eu entendo que o Replit é uma ferramenta e que tem falhas como qualquer outra. Mas como as pessoas podem confiar nele se ele ignora todos os comandos e apaga seus dados?”, questionou Lemkin, acrescentando: “Não temos ideia do que eles podem fazer com seus dados.”

Após os chatbots de IA, os agentes de IA são a tendência de investimento das empresas de tecnologia. Recentemente, a OpenAI lançou o ChatGPT Agent, capaz de executar tarefas automaticamente em computadores. No entanto, a OpenAI também admite que o acesso de agentes de IA aos dados do usuário pode representar diversos riscos à segurança da informação.

Fonte: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm