Attention aux IA qui créent de fausses images et voix pour escroquer en ligne.

Nguyen Thanh Huong (nom modifié) est employée de bureau à Hanoï . Lors d'une conversation avec une amie via Facebook Messenger, cette dernière a pris congé et a mis fin à la conversation, avant de lui répondre soudainement par message, lui demandant de lui emprunter de l'argent et exigeant un virement bancaire.

Les deepfakes sont utilisés par les pirates informatiques pour perpétrer des escroqueries en ligne.

Bien que le nom du compte corresponde à celui de son amie, Huong restait méfiante et demanda un appel vidéo pour vérifier. Son amie accepta immédiatement, mais l'appel ne dura que quelques secondes en raison d'une « connexion instable », comme l'expliqua son amie. Voyant le visage de son amie à l'écran, et constatant que sa voix était identique, Huong n'eut plus de doutes et effectua le virement. Cependant, ce n'est qu'une fois le virement réussi que Huong réalisa qu'elle était tombée dans le piège du pirate informatique.

Non seulement Huong, mais aussi de nombreuses autres victimes, notamment des amis et des proches d'une amie de Huong, ont été victimes d'une escroquerie similaire. Le montant total dérobé sur ce compte Facebook s'élève à plusieurs dizaines de millions de dongs (VND).

Au cours du second semestre 2023, la société de sécurité Bkav a reçu de nombreux signalements et demandes d'assistance de victimes d'escroqueries similaires. Selon les experts de Bkav, dans le cas de Huong, les escrocs ont pris le contrôle du compte Facebook, mais ne l'ont pas immédiatement piraté. Ils ont suivi discrètement la victime, attendant le moment opportun pour se faire passer pour elle et solliciter des prêts auprès de ses proches. Ils ont utilisé l'intelligence artificielle pour créer une fausse vidéo du visage et de la voix du titulaire du compte (Deepfake). Sommé de passer un appel vidéo pour vérification, Huong a accepté, puis a rapidement raccroché pour éviter d'être repéré.

M. Nguyen Tien Dat, directeur général du centre de recherche antimalware de Bkav, a déclaré : « La capacité de collecter et d’analyser les données des utilisateurs grâce à l’IA permet la création de stratégies de fraude sophistiquées. Cela signifie également que la complexité des scénarios de fraude, lorsqu’on combine Deepfake et GPT, augmentera, rendant la détection des fraudes beaucoup plus difficile. »

Bkav recommande aux utilisateurs de redoubler de vigilance et de ne jamais communiquer d'informations personnelles (carte d'identité, coordonnées bancaires, code OTP, etc.). Il est également déconseillé de transférer de l'argent à des inconnus par téléphone, réseaux sociaux ou sites web présentant des signes de fraude. En cas de demande de prêt ou de virement via les réseaux sociaux, il est recommandé d'utiliser d'autres méthodes d'authentification, comme un appel téléphonique ou tout autre moyen de communication, afin de confirmer l'identité de l'utilisateur.

Lien source: https://thanhnien.vn/canh-giac-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-tren-mang-185240202184553589.htm