Google causa polêmica ao se recusar a corrigir falha de segurança do Gemini

VHO - Um erro na ferramenta Gemini AI coloca os usuários em risco de ter suas informações confidenciais vazadas, mas o Google disse que isso não é um erro de segurança e não tem planos de corrigi-lo.

O Google está enfrentando críticas após se recusar a corrigir uma vulnerabilidade grave no Gemini, uma ferramenta de inteligência artificial (IA) profundamente integrada ao ecossistema do Google Workspace. De acordo com especialistas em segurança, a falha pode levar ao vazamento de informações confidenciais de usuários para estranhos por meio de um ataque chamado "contrabando de ASCII".

Fonte da imagem: Android Authority.

Gêmeos vulnerável a código oculto em texto

O pesquisador de segurança Viktor Markopoulos testou diversos modelos de grandes linguagens (LLMs) populares para verificar sua resistência a esse ataque. Os resultados mostraram que Gemini, DeepSeek e Grok eram vulneráveis, enquanto ChatGPT, Claude e Copilot estavam mais protegidos.

O contrabando de ASCII é uma forma de ataque em que um invasor oculta um prompt ou código de comando em um texto, geralmente em tamanho extremamente pequeno ou especialmente codificado. Quando um usuário solicita a uma IA que resuma ou analise o conteúdo que contém esse código oculto, a ferramenta de IA lê e executa acidentalmente o prompt malicioso sem que o usuário saiba.

Risco de vazamento de dados confidenciais no Google Workspace

Com o Gemini sendo integrado diretamente aos serviços do Gmail, Docs e Google Workspace, esse risco se torna particularmente preocupante: um prompt oculto pode fazer com que a IA pesquise automaticamente informações pessoais, dados de contato ou documentos confidenciais e os envie para fora do sistema sem que o usuário saiba.

Markopoulos contatou o Google para apresentar suas descobertas, inclusive ilustrando com um pedaço de código invisível que levou a Gemini a compartilhar um link para um site malicioso apenas para "resgatar um telefone com desconto".

Google nega que seja uma falha de segurança

Em uma resposta publicada, o Google afirmou que não se tratava de uma vulnerabilidade de segurança, mas sim de uma forma de ataque de engenharia social. Em outras palavras, a empresa considerou isso um bug causado por uma interação descuidada do usuário, e não um problema com seu sistema de IA.

Essa resposta sugere que o Google não tem planos de lançar um patch para o Gemini em um futuro próximo, o que significa que os usuários devem ser mais cautelosos ao usar IA para processar documentos, especialmente aqueles que contêm informações confidenciais ou vêm de fontes não verificadas.

Preocupações crescentes sobre a segurança da IA ​​profundamente integrada

O incidente levanta questões sobre a responsabilidade das empresas de tecnologia, à medida que a IA se integra cada vez mais às plataformas de trabalho e comunicação. Embora o Google tenha enfatizado seu compromisso com a "segurança do usuário", a decisão pode afetar a confiança na segurança da Gemini – especialmente no ambiente corporativo.

De acordo com a Android Authority

Fonte: https://baovanhoa.vn/nhip-song-so/google-gay-tranh-cai-khi-tu-choi-va-loi-bao-mat-gemini-173381.html