Grave vulnerabilidade no ChatGPT e em diversos assistentes de IA: usuários são vítimas de golpes e informações são vazadas...

Aproveitando-se dessa vulnerabilidade, hackers podem fazer com que o ChatGPT sugira aos usuários o download de softwares infectados por vírus, forneça conselhos comerciais falsos e até mesmo acesse arquivos no Google Drive...

A vulnerabilidade "Zero Click" permite até mesmo que hackers controlem o ChatGPT para agir como quiserem - Foto ilustrativa: AFP

A empresa israelense de cibersegurança Zenity revelou a primeira vulnerabilidade "Zero Click" descoberta no serviço ChatGPT da OpenAI.

Esse tipo de ataque não exige que os usuários realizem qualquer ação, como clicar em um link, abrir um arquivo ou se envolver em qualquer interação intencional, mas ainda assim pode obter acesso a contas e vazar dados confidenciais.

Mikhail Bergori, cofundador e diretor de tecnologia da Zenity, demonstrou em primeira mão como um hacker, tendo apenas o endereço de e-mail de um usuário, poderia assumir o controle total das conversas — incluindo conteúdo passado e futuro, alterar o propósito da conversa e até mesmo manipular o ChatGPT para agir de acordo com os desejos do hacker.

Em sua apresentação, os pesquisadores demonstraram que um ChatGPT comprometido poderia ser transformado em um "agente malicioso" que opera secretamente contra os usuários. Os hackers poderiam fazer com que o ChatGPT sugerisse aos usuários o download de softwares infectados por vírus, fornecesse conselhos comerciais enganosos ou acessasse arquivos armazenados no Google Drive, caso a conta do usuário esteja conectada. Tudo isso acontece sem o conhecimento do usuário.

A vulnerabilidade só foi totalmente corrigida depois que a Zenity notificou a OpenAI.

Além do ChatGPT, a Zenity também demonstrou ataques semelhantes contra outras plataformas populares de assistentes de IA. No Copilot Studio da Microsoft, pesquisadores descobriram como vazar bancos de dados CRM inteiros.

No Salesforce Einstein, hackers podem criar solicitações de serviço falsas para redirecionar todas as comunicações com os clientes para endereços de e-mail que eles controlam.

O Google Gemini e o Microsoft 365 Copilot também foram transformados em "atores hostis", realizando ataques de phishing e vazando informações confidenciais por meio de e-mails e eventos de calendário.

Em outro exemplo, a ferramenta de desenvolvimento de software Cursor, quando integrada ao Jira MCP, também foi explorada para roubar credenciais de desenvolvedores por meio de "tickets" falsos.

A Zenity afirmou que algumas empresas, como a OpenAI e a Microsoft, lançaram correções rapidamente após serem alertadas. No entanto, outras se recusaram a abordar o problema, argumentando que o comportamento era uma "característica de projeto" e não uma vulnerabilidade de segurança.

O grande desafio agora, segundo Mikhail Bergori, é que os assistentes de IA não estão apenas executando tarefas simples, mas se tornando "entidades digitais" que representam os usuários – capazes de abrir pastas, enviar arquivos e acessar e-mails. Ele alertou que isso é como um "paraíso" para hackers, com tantos pontos de exploração.

Ben Kaliger, cofundador e CEO da Zenity, afirmou que a pesquisa da empresa demonstra que os métodos de segurança atuais não são mais adequados para o modo como os assistentes de IA operam. Ele fez um apelo para que as organizações mudem sua abordagem e invistam em soluções especializadas para controlar e monitorar as atividades desses "agentes".

A Zenity foi fundada em 2021. Atualmente, conta com cerca de 110 funcionários em todo o mundo, 70 dos quais trabalham em seu escritório em Tel Aviv. Entre os clientes da Zenity, encontram-se muitas empresas da lista Fortune 100 e até mesmo da lista Fortune 5.

Voltar ao assunto

VNA

Fonte: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm