Além dos impactos negativos sobre o meio ambiente e os recursos naturais, a inteligência artificial (IA) está se tornando rapidamente uma ferramenta de alto risco na área de segurança cibernética. Como prova disso, a OALABS Research expôs recentemente um caso em que um hacker amador etíope utilizou agentes de IA do Claude e do OpenAI Codex para realizar uma série de ataques cibernéticos.
Apesar do comando estar repleto de erros ortográficos e gramaticais e oferecer apenas instruções vagas, esse indivíduo conseguiu comprometer diversos servidores privados. Esse hacker infiltrou-se nos dados confidenciais de pelo menos 14 empresas e chegou a planejar o roubo de US$ 4 milhões em criptomoedas.

Hackers amadores usaram Claude e o Codex para atacar 14 empresas.
Hackers e suas táticas de exploração da IA para contornar as barreiras do sistema.
Os atacantes contornaram as robustas medidas de segurança do modelo Claude Opus com relativa facilidade por meio de manipulação psicológica. Fingindo serem membros da equipe de pesquisa de vulnerabilidades de segurança, os hackers enganaram o chatbot de IA para que este fornecesse automaticamente todo o código-fonte do ataque. O sistema chegou a detalhar métodos de exploração, como extorsão e venda de dados, e instruiu diretamente sobre como roubar dados. O chatbot bloqueou apenas uma solicitação que tinha como alvo específico as contas digitais pessoais de uma família.
Este incidente incomum foi totalmente exposto depois que uma vítima, cujo servidor foi comprometido, contatou os especialistas da OALABS . Notavelmente, a identidade do jovem hacker foi revelada simplesmente porque ele havia solicitado anteriormente à IA a edição de seu perfil pessoal. O incidente levantou sérias preocupações sobre o fácil acesso do público a essas poderosas ferramentas tecnológicas sem a necessidade de conhecimento especializado. Usuários poderiam facilmente utilizar outra IA intermediária para elaborar comandos de ataque perigosos semelhantes.
Atualmente, gigantes da tecnologia como a Anthropic e a OpenAI estão em um impasse na busca por uma solução definitiva para prevenir tais ataques. Restringir o modelo privaria diretamente os pesquisadores de segurança da oportunidade de fortalecer o sistema. Por outro lado, manter o status quo deixaria a linha tênue entre o uso ético e o ganho ilícito como um obstáculo intransponível para a IA. Encontrar a solução ideal para prevenir intenções maliciosas de usuários continua sendo um desafio ainda não resolvido.
Segundo o jornal Thanh Nien
Fonte: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html










