Utiliser l'IA pour créer de fausses images et voix afin d'escroquer de l'argent

Le 2 février, M. Nguyen Tien Dat, directeur général du centre de recherche antimalware de Bkav, a déclaré que même si vous passez un appel vidéo et voyez le visage d'un parent ou d'un ami et entendez sa voix, vous ne parlez pas nécessairement à cette personne.

Nguyen Thanh Huong (le nom du personnage a été changé) est un employé de bureau à Hanoi . Lors d'une conversation avec un ami via Facebook Messenger, l'ami de Huong a dit au revoir et a mis fin à la conversation, mais est soudainement revenu au texte, demandant à emprunter de l'argent et suggérant de transférer de l'argent sur un compte bancaire.

Même si le nom du compte correspondait au nom de son amie, Huong était toujours méfiante et a donc demandé un appel vidéo pour vérifier. L'ami a immédiatement accepté, mais l'appel n'a duré que quelques secondes en raison de « l'instabilité d'Internet », selon l'explication de l'ami. Après avoir vu le visage de son amie dans l'appel vidéo, et la voix était également celle de cette personne, Huong n'a plus douté et a transféré l'argent. Cependant, ce n'est qu'après le transfert d'argent réussi que Huong a réalisé qu'elle était tombée dans le piège du pirate informatique.

De nombreuses personnes ont été victimes d’escroqueries financières utilisant Deepfake et impliquant l’IA (Intelligence Artificielle) ces derniers temps.

Non seulement Huong, mais de nombreuses autres victimes, amis et proches de Huong, ont également été trompées de la même manière. Le montant d’argent que les méchants peuvent escroquer à partir de ce type de compte Facebook peut atteindre des dizaines de millions de dongs.

Au cours du second semestre 2023, Bkav a continuellement reçu des rapports et des demandes d'aide de victimes concernant des cas de fraude similaires. Selon les experts de Bkav, dans le cas de Huong, les méchants ont pris le contrôle du compte Facebook mais ne l'ont pas immédiatement pris complètement, mais ont secrètement suivi, attendant une opportunité de se faire passer pour une victime pour demander à emprunter de l'argent à leurs amis et à leurs proches.

Ils utilisent l'IA pour créer une fausse vidéo du visage et de la voix du propriétaire du compte Facebook (Deepfake). Lorsqu'on leur a demandé de passer un appel vidéo pour authentification, ils ont accepté l'appel, mais se sont ensuite rapidement déconnectés pour éviter d'être détectés.

Selon M. Nguyen Tien Dat, du Centre de recherche anti-malware de Bkav, la capacité de collecter et d'analyser les données des utilisateurs grâce à l'IA permet la création de stratégies de fraude sophistiquées. Cela signifie également que la complexité des scénarios de fraude lors de la combinaison de Deepfake et de GPT augmentera, rendant la détection de fraude plus difficile.

Bkav recommande aux utilisateurs d'être particulièrement vigilants, de ne pas fournir d'informations personnelles (CCCD, compte bancaire, code OTP...), de ne pas transférer d'argent à des inconnus via téléphone, réseaux sociaux, sites Web présentant des signes de fraude.

Lorsqu'une demande d'emprunt/transfert d'argent sur un compte est effectuée via les réseaux sociaux, d'autres méthodes d'authentification doivent être utilisées, comme l'appel ou l'utilisation d'autres canaux de communication pour reconfirmer.

Source : https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm