Israel: Alerta de que assistentes de IA podem se tornar agentes maliciosos para atacar usuários

A empresa israelense de segurança cibernética Zenity revelou a primeira vulnerabilidade "Zero Click" no serviço ChatGPT da OpenAI. Esse tipo de ataque não exige que os usuários realizem nenhuma ação, como clicar em um link, abrir um arquivo ou interagir com outros usuários, mas ainda pode obter acesso a contas e vazar dados confidenciais.

De acordo com um repórter da VNA em Tel Aviv, o Sr. Mikhail Bergori, cofundador e CTO da Zenity, explicou diretamente como um hacker precisa apenas do endereço de e-mail do usuário para controlar completamente as conversas, incluindo conteúdo passado e futuro, alterar o propósito da conversa e até mesmo controlar o ChatGPT para agir de acordo com os desejos do hacker.

Em sua apresentação, os pesquisadores mostraram que um ChatGPT comprometido poderia se transformar em um "ator malicioso" que poderia operar secretamente contra os usuários. Hackers poderiam fazer o chatbot sugerir que os usuários baixassem software infectado por vírus, fornecessem conselhos comerciais enganosos ou acessassem arquivos armazenados no Google Drive se a conta do usuário estivesse conectada.

Todo o processo ocorreu sem o conhecimento do usuário. A vulnerabilidade só foi totalmente corrigida após a Zenity notificar a OpenAI.

Além do ChatGPT, a Zenity também demonstrou ataques semelhantes contra outras plataformas populares de assistentes de IA. No Copilot Studio da Microsoft, pesquisadores descobriram uma maneira de vazar bancos de dados inteiros de CRM.

No caso do Salesforce Einstein, os hackers podem criar solicitações de serviço falsas para redirecionar todas as comunicações dos clientes para endereços de e-mail sob seu controle.

O Google Gemini e o Microsoft 365 Copilot também foram transformados em “atores hostis”, realizando ataques de phishing e vazando informações confidenciais por meio de e-mails e eventos de calendário.

Em outro exemplo, a ferramenta de desenvolvimento de software Cursor, quando integrada ao Jira MCP, também foi explorada para roubar credenciais de desenvolvedor por meio de “tickets” falsos.

A Zenity afirmou que algumas empresas, incluindo a OpenAI e a Microsoft, lançaram patches rapidamente após serem alertadas. No entanto, outras se recusaram a abordar o problema, argumentando que o comportamento era um "recurso de design" e não uma vulnerabilidade de segurança.

O grande desafio agora, segundo Mikhail Bergori, é que os assistentes de IA não estão apenas realizando tarefas simples, mas estão se tornando "entidades digitais" que representam usuários – capazes de abrir pastas, enviar arquivos e acessar e-mails. Ele alerta que isso é como um "paraíso" para hackers, com tantos pontos de exploração.

Ben Kaliger, cofundador e CEO da Zenity, enfatizou que a pesquisa da empresa mostra que os métodos de segurança atuais não são mais adequados para a forma como os assistentes de IA operam. Ele pediu que as organizações mudem sua abordagem e invistam em soluções especializadas para poder controlar e monitorar as atividades desses "agentes".

A Zenity foi fundada em 2021. Atualmente, conta com cerca de 110 funcionários em todo o mundo, 70 dos quais trabalham em seu escritório em Tel Aviv. Entre os clientes da Zenity estão muitas empresas da Fortune 100 e até mesmo da Fortune 5.

(Vietnã+)

Fonte: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp