Cuidado com a IA que cria imagens e vozes falsas para enganar pessoas online

[anúncio_1]

Nguyen Thanh Huong (nome do personagem alterado) é um funcionário de escritório em Hanói . Durante uma conversa com um amigo pelo Facebook Messenger, o amigo de Huong se despediu e encerrou a conversa, mas de repente voltou a enviar mensagens de texto, pedindo dinheiro emprestado e sugerindo que transferissem o dinheiro para uma conta bancária.

Cảnh giác AI tạo hình ảnh và giọng nói giả mạo để lừa tiền trên mạng- Ảnh 1. — Deepfakes estão sendo usados por hackers para cometer fraudes online

Embora o nome da conta correspondesse ao da amiga, Huong ainda estava um pouco desconfiada, então solicitou uma videochamada para verificar. A amiga concordou imediatamente, mas a ligação durou apenas alguns segundos devido à "intermitência da rede", como explicou. Ao ver o rosto da amiga na videochamada, e a voz também era a mesma, Huong não duvidou mais e transferiu o dinheiro. No entanto, foi somente após a transferência ser bem-sucedida que Huong percebeu que havia caído na armadilha do hacker.

Não apenas Huong, mas muitas outras vítimas, amigos e parentes do amigo de Huong, também foram vítimas do mesmo golpe. A quantia de dinheiro que os bandidos roubaram daquela conta do Facebook chega a dezenas de milhões de dongs.

No segundo semestre de 2023, a empresa de segurança Bkav recebeu continuamente denúncias e pedidos de ajuda de vítimas sobre golpes semelhantes. De acordo com especialistas da Bkav, no caso de Huong, os criminosos assumiram o controle da conta do Facebook, mas não assumiram o controle total imediatamente, mas a seguiram secretamente, aguardando uma oportunidade de se passarem pela vítima e pedirem dinheiro emprestado a amigos e parentes. Eles usaram IA para criar um vídeo falso do rosto e da voz do proprietário da conta do Facebook (Deepfake). Quando solicitados a fazer uma chamada de vídeo para verificação, eles concordaram em atender a chamada, mas logo desligaram para evitar serem detectados.

O Sr. Nguyen Tien Dat, Diretor Geral do Centro de Pesquisa AntiMalware Bkav, afirmou: "A capacidade de coletar e analisar dados de usuários por meio de IA permite a criação de estratégias sofisticadas de fraude. Isso também significa que a complexidade dos cenários de fraude ao combinar Deepfake e GPT aumentará, tornando a detecção de fraudes muito mais difícil."

O Bkav recomenda que os usuários sejam especialmente vigilantes, não forneçam informações pessoais (CCCD, conta bancária, código OTP...) e não transfiram dinheiro para estranhos por telefone, redes sociais ou sites com indícios de fraude. Quando houver uma solicitação de empréstimo/transferência de dinheiro para uma conta por meio de redes sociais, você deve usar outros métodos de autenticação, como ligar ou usar outros canais de comunicação para confirmar novamente.

[anúncio_2]
Link da fonte