Usuários do ChatGPT correm risco de roubo de informações

O recurso de memória de longo prazo do ChatGPT é um novo recurso introduzido pela OpenAI em fevereiro de 2024 e expandido em setembro.

Recentemente, o pesquisador de segurança Johann Rehberger revelou uma vulnerabilidade séria relacionada a esse recurso.

Sabe-se que esse novo recurso ajuda os chatbots a armazenar informações de conversas anteriores. Graças a isso, os usuários não precisam inserir novamente informações como idade, interesses ou opiniões pessoais sempre que conversam. No entanto, isso se tornou uma vulnerabilidade que pode ser explorada por invasores.

Usuários do ChatGPT correm risco de roubo de informações

Johann Rehberger demonstrou que hackers poderiam usar uma técnica chamada injeção de prompts — inserir instruções maliciosas na memória, forçando a IA a obedecer. Esses comandos seriam entregues por meio de conteúdo não confiável, como e-mails, documentos ou sites.

Uma vez armazenadas essas memórias falsas, a IA continuará a usá-las como informações reais em conversas com os usuários, o que pode levar à coleta e ao uso indevido de dados pessoais dos usuários.

Rehberger forneceu um exemplo específico ao enviar um link contendo uma imagem maliciosa que fazia com que o ChatGPT armazenasse uma memória falsa. Essa informação afetaria as respostas futuras do ChatGPT. Em particular, qualquer informação inserida pelo usuário também seria enviada ao servidor do hacker.

Assim, para desencadear o ataque, o hacker precisa apenas convencer os usuários do ChatGPT a clicarem em um link contendo uma imagem maliciosa. Depois disso, todos os chats do usuário com o ChatGPT serão redirecionados para o servidor do invasor sem deixar rastros.

Rehberger relatou o bug à OpenAi em maio de 2024, mas a empresa o considerou apenas uma falha de segurança. Após receber evidências de que dados de usuários poderiam ser roubados, a empresa lançou um patch temporário na versão web do ChatGPT.

Embora o problema tenha sido corrigido temporariamente, Rehberger observa que conteúdo não confiável ainda pode usar a injeção de Prompt para inserir informações falsas na memória de longo prazo do ChatGPT. Isso significa que, em certos casos, hackers ainda podem explorar a vulnerabilidade para armazenar memórias maliciosas e roubar informações pessoais a longo prazo.

A OpenAI recomenda que os usuários verifiquem regularmente as memórias armazenadas do ChatGPT em busca de falsos positivos, e a empresa também fornece instruções detalhadas sobre como gerenciar e excluir memórias armazenadas na ferramenta.

Fonte: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html