Israel: Alerta de que assistentes de IA podem se tornar agentes maliciosos para atacar usuários

A empresa israelense de cibersegurança Zenity revelou a primeira vulnerabilidade "Zero Click" já descoberta no serviço ChatGPT da OpenAI. Esse tipo de ataque não exige que os usuários realizem qualquer ação, como clicar em um link, abrir um arquivo ou interagir de qualquer forma, mas ainda assim permite o acesso a contas e o vazamento de dados confidenciais.

Segundo um repórter da VNA em Tel Aviv, Mikhail Bergori, cofundador e diretor de tecnologia da Zenity, explicou detalhadamente como um hacker precisa apenas do endereço de e-mail de um usuário para controlar completamente as conversas — incluindo conteúdo passado e futuro, alterar o propósito da conversa e até mesmo controlar o ChatGPT para agir de acordo com os desejos do hacker.

Em sua apresentação, os pesquisadores mostraram que um ChatGPT comprometido poderia ser transformado em um "agente malicioso" capaz de operar furtivamente contra os usuários. Os hackers poderiam fazer com que o chatbot sugerisse aos usuários o download de softwares infectados por vírus, fornecesse conselhos comerciais enganosos ou acessasse arquivos armazenados no Google Drive caso a conta do usuário estivesse conectada.

Todo o processo ocorreu sem o conhecimento do usuário. A vulnerabilidade só foi totalmente corrigida depois que a Zenity notificou a OpenAI.

Além do ChatGPT, a Zenity também demonstrou ataques semelhantes contra outras plataformas populares de assistentes de IA. No Copilot Studio da Microsoft, pesquisadores descobriram como vazar bancos de dados CRM inteiros.

No Salesforce Einstein, hackers podem criar solicitações de serviço falsas para redirecionar todas as comunicações com os clientes para endereços de e-mail que eles controlam.

O Google Gemini e o Microsoft 365 Copilot também foram transformados em "atores hostis", realizando ataques de phishing e vazando informações confidenciais por meio de e-mails e eventos de calendário.

Em outro exemplo, a ferramenta de desenvolvimento de software Cursor, quando integrada ao Jira MCP, também foi explorada para roubar credenciais de desenvolvedores por meio de "tickets" falsos.

A Zenity afirmou que algumas empresas, como a OpenAI e a Microsoft, lançaram correções rapidamente após serem alertadas. No entanto, outras se recusaram a abordar o problema, argumentando que o comportamento era uma "característica de projeto" e não uma vulnerabilidade de segurança.

O grande desafio agora, segundo Mikhail Bergori, é que os assistentes de IA não estão apenas executando tarefas simples, mas se tornando “entidades digitais” que representam os usuários – capazes de abrir pastas, enviar arquivos e acessar e-mails. Ele alertou que isso é como um “paraíso” para hackers, com tantos pontos de exploração.

Ben Kaliger, cofundador e CEO da Zenity, enfatizou que a pesquisa da empresa demonstra que os métodos de segurança atuais não são mais adequados para o modo como os assistentes de IA operam. Ele fez um apelo para que as organizações mudem sua abordagem e invistam em soluções especializadas para poderem controlar e monitorar as atividades desses "agentes".

A Zenity foi fundada em 2021. Atualmente, a empresa conta com cerca de 110 funcionários em todo o mundo, 70 dos quais trabalham no escritório de Tel Aviv. Entre os clientes da Zenity, encontram-se muitas empresas da lista Fortune 100 e até mesmo da lista Fortune 5.

(TTXVN/Vietnã+)

Fonte: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-Hai-tan-cong-nguoi-dung-post1054883.vnp