Le deepfake est omniprésent : personne n'est à l'abri des arnaques d'IA

Imitation de voix, imitation de visage, synchronisation labiale… L'IA n'est plus réservée au travail et au divertissement, mais devient un dangereux outil de fraude commerciale. L'IA se fait passer pour des célébrités, des médecins et même des moines afin de vendre des produits sur les réseaux sociaux. Les personnes réelles ignorent tout et les acheteurs perdent confiance.

Être « emprunté un visage » pour vendre des marchandises

« Quel que soit l'état de votre genou, appliquez simplement notre méthode. Nous vous garantissons une amélioration significative en 7 jours. En cas d'inefficacité totale, je suis prêt à vous verser un milliard de VND en guise d'excuses sincères. Si vous ne constatez aucun effet, nous vous rembourserons intégralement et je suis prêt à vous verser un milliard de VND. Tout le monde n'ose pas s'engager ainsi. » C'est ce qu'a déclaré une célèbre chanteuse faisant la promotion d'une crème de massage pour soulager les douleurs articulaires. Il est important de noter que cette publicité a été entièrement créée par l'IA.

Le clip publicitaire ci-dessus a été utilisé par un compte TikTok nommé LShop, qui a reproduit l'image, la voix et le langage corporel de la chanteuse de manière réaliste, impossible à détecter sans une observation attentive. Ce compte compte près de 9 000 abonnés, 67 000 mentions « J'aime » et chaque clip cumule des milliers de vues. La vidéo publicitaire, qui reprend l'image de la chanteuse ci-dessus, a à elle seule récolté plus de 1 000 mentions « J'aime » et près de 100 commentaires d'achat.

Avec la même crème de massage, les chaînes de vente ont également « produit » une autre version deepfake, cette fois-ci un médecin. Dans la vidéo, le personnage s'engageait fermement : « Je suis le médecin orthopédiste le plus prestigieux de Hanoï et je garantis que même la déchirure du ménisque la plus grave peut être complètement guérie en seulement 3 jours. Ce gel a été certifié par la plus prestigieuse association orthopédique du Vietnam. » Cette réplique a été recréée par l'IA pour une série d'autres « médecins », ce qui permettait aux spectateurs de la prendre facilement pour un vrai.

La vidéo a récolté près de 4 000 mentions « J'aime » et plus de 120 commentaires. Cependant, lorsque nous avons essayé de commander par SMS, le compte n'a pas répondu et n'a pas interagi avec les spectateurs dans la section commentaires, laissant simplement le produit dans le panier pour un achat direct. Il est à noter que le produit en vente provenait de Chine et que les informations le concernant étaient très vagues.

Des chanteurs aux célébrités en passant par les médecins, tous ont été imités par des chaînes de vente qui créent des clips d'IA pour vendre des produits liés à la santé.

Ce n'est pas tout : l'astuce du deepfake s'est également répandue dans le domaine spirituel. Un compte TikTok nommé Phat Phap NM a non seulement republié les conférences du Maître TPH, mais a également utilisé l'IA pour créer des images du « maître » vendant des produits tels que des feuilles de Bodhi et des bracelets en bois d'agar.

Lorsque les téléspectateurs ont laissé des commentaires invitant à acheter, la chaîne a répondu : « Si les choses ne se passent pas comme prévu, rendez-vous dans la section « Vue d'ensemble » de mon compte et choisissez ce dont vous avez besoin. Ne lésinez pas sur la petite monnaie et ignorez la plus grosse. » Immédiatement après, ce moine a dû prendre la parole pour préciser qu'il n'avait jamais fait de publicité ni participé à la vente de tels produits.

La frontière entre créativité et contrefaçon

Ngo Minh Hieu (Hieu PC), expert en cybersécurité au Centre national de surveillance de la cybersécurité (NCSC), a déclaré que les fausses publicités diffusées sur les réseaux sociaux sont principalement créées à l'aide de logiciels Deepfake. Ces logiciels ne sont pas rares ; de nombreux services proposent même des formules économiques et très simples d'utilisation. Bien qu'il existe des applications positives dans le domaine de la création de contenu numérique et de la production médiatique, selon M. Hieu, le problème réside dans le fait que certains individus exploitent cette technologie à des fins néfastes, comme la fraude, l'usurpation d'identité, la diffusion de fausses informations ou la diffamation via des vidéos semblant authentiques.

M. Hieu a également donné quelques indices pour aider à identifier les clips deepfake, comme des expressions faciales dans la vidéo quelque peu raides, des formes de bouche et des mouvements qui ne correspondent pas au dialogue... M. Hieu a averti qu'il y a eu des situations plus graves où l'IA a été utilisée pour insérer les visages des victimes dans des vidéos sensibles à des fins d'intimidation, de coercition et de profit.

Selon l'avocat Tran Duc Phuong, du Barreau de Hô-Chi-Minh-Ville, l'utilisation de l'IA pour créer des images de célébrités (ou de personnes spécifiques) sans leur consentement constitue une violation des droits de la personne, notamment du droit à l'image, comme le stipule l'article 32 du Code civil de 2015. La loi stipule : « Tout individu a droit à sa propre image. L'utilisation de l'image d'un individu doit être autorisée par celui-ci. L'utilisation d'une image à des fins commerciales doit donner lieu à une rémunération pour la personne dont l'image est utilisée, sauf accord contraire entre les parties. »

Ainsi, si le propriétaire d'un compte de réseau social utilise sans autorisation des images recréées par l'IA à partir de photos réelles, d'anciennes vidéos, etc., à des fins publicitaires ou commerciales, il enfreint la loi. Si l'utilisation d'une image enfreint les dispositions du présent article, le détenteur de l'image a le droit de demander au tribunal de rendre une décision obligeant le contrevenant, les agences, organisations et personnes concernées à retirer, détruire et mettre fin à l'utilisation de l'image, à indemniser les dommages et à appliquer d'autres mesures conformément aux dispositions légales.

CAM NUONG

Source : https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html