No fórum Security Summit 2026, realizado em 22 de maio, o Sr. Mai Xuan Cuong, Diretor do Centro de Serviços de Segurança da Informação da Viettel Cyber Security, afirmou que a diferença mais perigosa entre os agentes de IA e os LLMs tradicionais reside na sua capacidade de interagir diretamente com o sistema.
Enquanto os LLMs convencionais apenas recebem comandos e retornam texto, os Agentes de IA têm a capacidade de executar comandos do shell (interagir com o sistema operacional por meio da linha de comando), manipular sistemas de arquivos para leitura e gravação, enviar e-mails automaticamente, acessar APIs e controlar navegadores. Essa atualização, inadvertidamente, abre um leque maior de possibilidades de ataque, indo muito além do escopo das campanhas típicas de desinformação.
Agentes de IA estão se tornando um novo alvo para cibercriminosos.
De acordo com especialistas em cibersegurança, é essa capacidade de "agir" que torna os agentes de IA um novo alvo para os cibercriminosos.
Um dos maiores riscos é o vazamento de dados corporativos. Para operar com eficiência, os agentes de IA frequentemente precisam processar grandes quantidades de informações internas, como código-fonte, documentos e e-mails. Se esses dados forem enviados para plataformas de IA em nuvem de terceiros, o risco de exposição de informações confidenciais aumenta.
Há registros de casos de funcionários da Samsung vazando código-fonte novo por meio do ChatGPT, ou de funcionários da Meta vazando dados inadvertidamente ao seguirem instruções de uma IA interna.
Além do risco de vazamento de dados, especialistas também alertam sobre a "injeção indireta de comandos". Hackers podem inserir instruções maliciosas em e-mails, sites ou documentos para enganar agentes de IA e levá-los a executar ações não intencionais, como acessar dados internos ou enviar informações para o hacker.
Houve um caso em que um atacante ocultou código Morse em uma mensagem para burlar o sistema, permitindo que o agente de criptomoedas Grok-Bankrbot executasse uma transferência de dinheiro não autorizada, resultando em uma perda de US$ 150.000.
Outro risco decorre do ecossistema de extensões para agentes de IA. Muitos funcionários de empresas instalam extensões da comunidade para expandir a funcionalidade da IA, mas hackers podem explorar esse canal para disseminar malware. Uma vez concedido acesso ao sistema, esses plugins falsos podem roubar dados, tokens ou criar backdoors no dispositivo.
Segundo o Sr. Cuong, a tendência da "IA paralela" também está surgindo, com funcionários instalando agentes de IA em seus computadores de trabalho por conta própria, sem passar pelo departamento de TI. Isso dificulta o controle de acesso por parte das empresas e aumenta o risco de violações de segurança do sistema.
Além disso, a IA pode interpretar erroneamente as intenções do usuário, levando à execução de comandos que podem causar danos significativos às empresas. Por exemplo, um agente de IA pode executar a operação errada ou excluir acidentalmente dados importantes se receber permissões excessivas.
Para mitigar riscos, recomenda-se que as organizações construam um modelo de segurança multicamadas em vez de dependerem exclusivamente de software antivírus tradicional e desenvolvam um plano de implementação adequado.
As empresas precisam construir um modelo de segurança multicamadas.
O primeiro passo que uma empresa precisa dar é a detecção de ameaças. As empresas podem usar endpoints e tráfego de proxy da web (servidores intermediários que conectam dispositivos à Internet) para agregar e identificar ameaças.
Em seguida, precisamos configurar um gateway de IA, tornando-o o ponto de controle único para todo o acesso à IA. Esse gateway controlará a transmissão de dados para a nuvem pública.
Posteriormente, as empresas precisam implementar uma camada adicional de controle especializado (Guardrail) em seu gateway de IA e em outros aplicativos de IA para identificar comandos maliciosos, evitar vazamentos de dados e detectar acesso ou exploração não autorizados do sistema.
O próximo passo é estabelecer reforços para o Agente de IA. O sistema de monitoramento no ponto final deve ser configurado para rastrear "comportamentos autônomos" incomuns. O Agente de IA deve operar em um ambiente isolado com acesso mínimo para limitar o risco de propagação caso ocorra um incidente. Por fim, o monitoramento regular do sistema é essencial.
"A governança de segurança da IA não é uma implementação única, mas um processo de monitoramento contínuo", afirmou o Sr. Cuong.
A gestão da segurança da IA se tornará um requisito obrigatório durante o período de rápido desenvolvimento de agentes de IA. Se as empresas não estiverem preparadas para estabelecer modelos de segurança de Confiança Zero e monitoramento rigoroso, capacitar agentes de IA a agir será como entregar as chaves do sistema a um funcionário que, embora altamente qualificado, é muito suscetível à manipulação.
Fonte: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
Comentário (0)