Usuários do ChatGPT correm o risco de ter suas informações roubadas.

O recurso de memória de longo prazo do ChatGPT é uma nova funcionalidade introduzida pela OpenAI em fevereiro de 2024 e expandida em setembro.

Recentemente, o pesquisador de segurança Johann Rehberger revelou uma vulnerabilidade grave relacionada a esse recurso.

Sabe-se que esse novo recurso ajuda os chatbots a armazenar informações de conversas anteriores. Graças a isso, os usuários não precisam inserir novamente informações como idade, interesses ou opiniões pessoais a cada conversa. No entanto, isso se tornou uma vulnerabilidade que pode ser explorada por atacantes.

Usuários do ChatGPT correm o risco de ter suas informações roubadas.

Johann Rehberger demonstrou que hackers podem usar uma técnica chamada injeção de prompts — inserindo instruções maliciosas na memória, forçando a IA a obedecê-las. Esses comandos seriam enviados por meio de conteúdo não confiável, como e-mails, documentos ou sites.

Uma vez armazenadas, essas memórias falsas continuarão a usá-las como mensagens reais em conversas com os usuários, o que pode levar à coleta e ao uso indevido de dados pessoais dos usuários.

Rehberger forneceu um exemplo concreto ao enviar um link contendo uma imagem maliciosa que fez com que o ChatGPT armazenasse uma memória falsa. Essa informação afetaria as respostas futuras do ChatGPT. Em particular, qualquer informação inserida pelo usuário também seria enviada para o servidor do hacker.

Assim, para desencadear o ataque, o hacker precisa apenas convencer os usuários do ChatGPT a clicarem em um link contendo uma imagem maliciosa. Depois disso, todos os chats do usuário com o ChatGPT serão redirecionados para o servidor do atacante sem deixar rastros.

Rehberger reportou o bug à OpenAI em maio de 2024, mas a empresa o considerou apenas um problema de segurança. Após receber evidências de que dados de usuários poderiam ser roubados, a empresa lançou uma correção temporária para a versão web do ChatGPT.

Embora o problema tenha sido temporariamente corrigido, Rehberger observa que conteúdo não confiável ainda pode usar a injeção de prompt para inserir informações falsas na memória de longo prazo do ChatGPT. Isso significa que, em certos casos, hackers ainda podem explorar a vulnerabilidade para armazenar memórias maliciosas e roubar informações pessoais a longo prazo.

A OpenAI recomenda que os usuários verifiquem regularmente as memórias armazenadas do ChatGPT em busca de falsos positivos, e a empresa também fornece instruções detalhadas sobre como gerenciar e excluir essas memórias.

Fonte: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html