Utiliser l'IA pour créer de fausses images et de fausses voix afin d'escroquer de l'argent.

Le 2 février, M. Nguyen Tien Dat, directeur général du Centre de recherche anti-malware de Bkav, a déclaré que même si vous passez un appel vidéo et que vous voyez le visage d'un proche et entendez sa voix, cela ne signifie pas nécessairement que vous parlez à cette personne.

Nguyen Thanh Huong (nom modifié) est employée de bureau à Hanoï . Lors d'une conversation avec une amie via Facebook Messenger, cette dernière a pris congé et a mis fin à la conversation, avant de lui répondre soudainement par message, lui demandant de lui emprunter de l'argent et exigeant un virement bancaire.

Bien que le nom du compte corresponde à celui de son amie, Huong avait encore un léger doute et a demandé un appel vidéo pour vérifier. Son amie a accepté sans hésiter, mais l'appel n'a duré que quelques secondes en raison d'une « connexion internet instable », selon ses dires. Ayant vu le visage de son amie en vidéo et entendu sa voix, Huong n'a plus douté et a effectué le virement. Cependant, ce n'est qu'après le virement réussi que Huong a réalisé qu'elle était tombée dans le piège d'un pirate informatique.

De nombreuses personnes ont récemment été victimes d'escroqueries financières utilisant la technologie Deepfake et impliquant l'IA (intelligence artificielle).

Huong n'était pas la seule victime ; de nombreuses autres personnes, dont ses amis et ses proches, ont également été victimes d'escroqueries similaires. Le montant total des sommes dérobées par les escrocs grâce à ces comptes Facebook s'élève à plusieurs dizaines de millions de dongs.

Au cours du second semestre 2023, Bkav a reçu de nombreux signalements et demandes d'assistance de victimes d'escroqueries similaires. Selon les experts de Bkav, dans le cas de Huong, l'escroc a pris le contrôle de son compte Facebook, mais ne l'a pas immédiatement contrôlé totalement. Il l'a surveillée en secret, attendant le moment opportun pour usurper son identité et solliciter des prêts auprès de ses proches.

Ils utilisent l'IA pour créer une fausse vidéo imitant le visage et la voix du titulaire du compte Facebook (Deepfake). Lorsqu'on leur demande de faire un appel vidéo pour vérification, ils acceptent, mais raccrochent rapidement pour éviter d'être repérés.

D'après M. Nguyen Tien Dat du Centre de recherche anti-malware de Bkav, la capacité à collecter et analyser les données des utilisateurs grâce à l'IA permet de créer des stratégies de phishing sophistiquées. Cela signifie également que la complexité des scénarios de phishing combinant deepfake et GPT augmentera, rendant ainsi le phishing plus difficile à détecter.

Bkav conseille aux utilisateurs d'être particulièrement vigilants, de ne pas fournir d'informations personnelles (numéro de carte d'identité, coordonnées bancaires, codes OTP, etc.) et de ne pas transférer d'argent à des inconnus par téléphone, réseaux sociaux ou sites web présentant des caractéristiques frauduleuses.

Lorsqu'on reçoit des demandes de prêt/transfert d'argent via les réseaux sociaux, il est conseillé d'utiliser d'autres méthodes de vérification telles que les appels téléphoniques ou d'autres canaux de communication pour confirmer les détails.

Source : https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm