Attention aux IA qui créent de fausses images et voix pour escroquer de l'argent en ligne

Nguyen Thanh Huong (nom du personnage modifié) est employé de bureau à Hanoï . Lors d'une conversation avec un ami via Facebook Messenger, celui-ci lui a dit au revoir et a mis fin à la conversation, mais a soudainement repris son message, lui demandant d'emprunter de l'argent et lui suggérant de virer de l'argent sur un compte bancaire.

Les deepfakes sont utilisés par les pirates informatiques pour commettre des fraudes en ligne

Bien que le nom du compte corresponde à celui de son amie, Huong était encore un peu méfiante et a demandé un appel vidéo pour vérifier. Son amie a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison d'une « interruption du réseau », comme elle l'a expliqué. Voyant le visage de son amie lors de l'appel vidéo, et sa voix également identique, Huong a levé le doute et a transféré l'argent. Cependant, ce n'est qu'une fois le transfert réussi qu'elle a compris qu'elle était tombée dans le piège du pirate.

Outre Huong, de nombreuses autres victimes, proches ou amis de son ami, ont également été victimes de la même escroquerie. Les malfaiteurs ont détourné des sommes d'argent de ce compte Facebook à hauteur de plusieurs dizaines de millions de dongs.

Au second semestre 2023, l'entreprise de sécurité Bkav a reçu de nombreux signalements et demandes d'aide de victimes concernant des escroqueries similaires. Selon les experts de Bkav, dans le cas de Huong, les malfaiteurs ont pris le contrôle du compte Facebook, mais sans le prendre immédiatement en charge complètement. Ils ont plutôt suivi le compte en secret, guettant l'occasion de se faire passer pour la victime afin de demander de l'argent à ses proches. Ils ont utilisé l'IA pour créer une fausse vidéo du visage et de la voix du propriétaire du compte Facebook (Deepfake). Lorsqu'on leur a demandé de passer un appel vidéo pour vérification, ils ont accepté, mais ont rapidement déconnecté pour éviter d'être détectés.

M. Nguyen Tien Dat, directeur général du Centre de recherche antimalware Bkav, a déclaré : « La capacité de collecter et d'analyser les données des utilisateurs grâce à l'IA permet de créer des stratégies de fraude sophistiquées. Cela signifie également que la complexité des scénarios de fraude, combinée à Deepfake et GPT, augmentera, rendant la détection des fraudes beaucoup plus difficile. »

Bkav recommande aux utilisateurs d'être particulièrement vigilants : ne fournissez pas d'informations personnelles (CCCD, numéro de compte bancaire, code OTP, etc.) et ne transférez pas d'argent à des inconnus par téléphone, sur les réseaux sociaux ou sur des sites web présentant des signes de fraude. En cas de demande d'emprunt/transfert d'argent sur un compte via les réseaux sociaux, utilisez d'autres méthodes d'authentification, comme un appel ou d'autres moyens de communication, pour confirmer à nouveau.

Lien source: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm