Cuidado con la IA que crea imágenes y voces falsas para estafar dinero en línea

Nguyen Thanh Huong (nombre ficticio) trabaja como oficinista en Hanói . Durante una conversación con un amigo por Facebook Messenger, este se despidió y terminó la conversación, pero de repente le respondió pidiendo dinero prestado y solicitando que se transfiriera a una cuenta bancaria.

Los piratas informáticos están utilizando deepfakes para realizar estafas en línea.

Aunque el nombre de la cuenta coincidía con el de su amiga, Huong seguía sospechando, así que solicitó una videollamada para verificarlo. Su amiga accedió de inmediato, pero la llamada solo duró unos segundos debido a una "red intermitente", según explicó. Al ver la cara de su amiga en la videollamada, y su voz, Huong dejó de dudar y transfirió el dinero. Sin embargo, solo después de que la transferencia se realizó correctamente se dio cuenta de que había caído en la trampa del hacker.

No solo Huong, sino muchas otras víctimas, incluyendo amigos y familiares de su amigo, también fueron estafadas de forma similar. Los estafadores robaron decenas de millones de VND de esa cuenta de Facebook.

Durante la segunda mitad de 2023, la empresa de seguridad Bkav recibió continuamente denuncias y solicitudes de ayuda de víctimas sobre estafas similares. Según los expertos de Bkav, en el caso de Huong, los cibercriminales tomaron el control de la cuenta de Facebook, pero no lo hicieron por completo de inmediato, sino que la siguieron en secreto, esperando la oportunidad de hacerse pasar por la víctima y pedir dinero prestado a sus amigos y familiares. Utilizaron inteligencia artificial para crear un vídeo falso con el rostro y la voz del titular de la cuenta de Facebook (deepfake). Cuando se les pidió que hicieran una videollamada para verificar la identidad, aceptaron la llamada, pero luego se desconectaron rápidamente para evitar ser detectados.

El Sr. Nguyen Tien Dat, Director General del Centro de Investigación AntiMalware Bkav, afirmó: «La capacidad de recopilar y analizar datos de usuarios mediante IA permite la creación de sofisticadas estrategias de fraude. Esto también implica que la complejidad de los escenarios de fraude al combinar Deepfake y GPT aumentará, lo que dificultará considerablemente su detección».

Bkav recomienda a los usuarios ser especialmente precavidos, no proporcionar información personal (CCCD, cuenta bancaria, código OTP, etc.) ni transferir dinero a desconocidos por teléfono, redes sociales ni sitios web con indicios de fraude. Si se les solicita un préstamo o una transferencia a una cuenta a través de redes sociales, deben utilizar otros métodos de autenticación, como llamar o usar otros canales de comunicación, para confirmar la solicitud.

Enlace de origen: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm