Cuidado com a IA que cria imagens e vozes falsas para aplicar golpes financeiros online

[anúncio_1]

Nguyen Thanh Huong (nome do personagem alterado) é um funcionário de escritório em Hanói . Durante uma conversa com um amigo pelo Facebook Messenger, o amigo de Huong se despediu e encerrou a conversa, mas de repente voltou a enviar mensagens de texto, pedindo dinheiro emprestado e sugerindo que transferissem o dinheiro para uma conta bancária.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Deepfakes estão sendo usados por hackers para cometer fraudes online

Embora o nome da conta correspondesse ao da amiga, Huong ainda estava um pouco desconfiada e solicitou uma videochamada para verificar. A amiga concordou imediatamente, mas a ligação durou apenas alguns segundos devido ao "lag da internet", segundo a explicação da amiga. Ao ver o rosto da amiga na videochamada e ouvir sua voz, Huong não duvidou mais e transferiu o dinheiro. No entanto, foi somente após a transferência ser bem-sucedida que Huong percebeu que havia caído na armadilha do hacker.

Não apenas Huong, mas muitas outras vítimas, amigas e parentes do amigo de Huong, também foram vítimas do mesmo golpe. A quantia de dinheiro que os bandidos roubaram daquela conta do Facebook chega a dezenas de milhões de dongs.

No segundo semestre de 2023, a empresa de segurança Bkav recebeu continuamente denúncias e pedidos de ajuda de vítimas sobre golpes semelhantes. De acordo com especialistas da Bkav, no caso de Huong, os criminosos assumiram o controle da conta do Facebook, mas não a assumiram completamente de imediato, seguindo-a secretamente, aguardando uma oportunidade de se passarem pela vítima e pedirem dinheiro emprestado a amigos e parentes. Eles usaram IA para criar um vídeo falso do rosto e da voz do proprietário da conta do Facebook (deepfake). Quando solicitados a fazer uma chamada de vídeo para verificação, eles concordaram em atender a chamada, mas logo desligaram para evitar serem detectados.

O Sr. Nguyen Tien Dat, Diretor Geral do Centro de Pesquisa Antimalware do Bkav, afirmou: "A capacidade de coletar e analisar dados de usuários por meio de IA permite a criação de estratégias sofisticadas de fraude. Isso também significa que a complexidade dos cenários de fraude ao combinar Deepfake e GPT aumentará, dificultando muito a detecção de fraudes."

O Bkav recomenda que os usuários sejam especialmente vigilantes, não forneçam informações pessoais (documento de identidade, conta bancária, código OTP...) e não transfiram dinheiro para estranhos por telefone, redes sociais ou sites com indícios de fraude. Quando houver uma solicitação de empréstimo/transferência de dinheiro para uma conta por meio de redes sociais, outros métodos de autenticação devem ser usados, como ligar ou usar outros canais de comunicação para confirmar.

Link da fonte