Les deepfakes sont omniprésents – Personne n’est à l’abri des usurpations d’identité par l’IA.

Imitation vocale, imitation faciale, synchronisation labiale… L’IA ne se limite plus au travail et aux loisirs, mais devient un outil dangereux de fraude commerciale. Des images de célébrités, de médecins, voire de moines, sont usurpées par l’IA pour vendre des produits sur les réseaux sociaux. Les consommateurs n’y voient que du feu et perdent confiance.

Utiliser un « visage emprunté » pour vendre des marchandises

« Quel que soit l'état initial de votre genou, appliquez simplement notre méthode. Nous garantissons une amélioration significative en 7 jours. Si elle s'avère totalement inefficace, je suis prête à vous verser 1 milliard de VND à titre de dédommagement. Si vous ne constatez aucun effet, nous nous engageons à vous rembourser intégralement et je suis moi-même disposée à vous verser 1 milliard de VND. Peu de gens osent prendre un tel engagement », tel est le message d'une célèbre chanteuse faisant la promotion d'une crème de massage pour soulager les douleurs articulaires. Il est à noter que cette publicité a été entièrement créée par une intelligence artificielle.

La vidéo publicitaire ci-dessus a été utilisée par un compte TikTok nommé LShop. Ce compte a repris l'image, la voix et la gestuelle de la chanteuse de manière si réaliste qu'il est impossible de déceler la supercherie sans un examen attentif. LShop compte près de 9 000 abonnés et 67 000 mentions « J'aime ». Chaque vidéo cumule des milliers de vues. La vidéo publicitaire en question, utilisant l'image de la chanteuse, a à elle seule généré plus de 1 000 mentions « J'aime » et près de 100 commentaires incitant à l'achat.

Pour le même produit de crème de massage, les chaînes de vente ont également diffusé une autre version truquée, cette fois-ci mettant en scène un médecin. Dans la vidéo, le personnage affirme avec conviction : « Je suis le chirurgien orthopédiste le plus réputé d’Hanoï et je garantis que même les déchirures du ménisque les plus graves peuvent être complètement guéries en seulement 3 jours. Ce gel a été certifié par la plus prestigieuse association d’orthopédie du Vietnam. » Cette phrase a été reproduite par une intelligence artificielle pour une série d’autres « médecins », ce qui permet aux internautes de la prendre facilement pour une affirmation authentique.

La vidéo a récolté près de 4 000 mentions « J’aime » et plus de 120 commentaires. Cependant, lorsque nous avons tenté de passer commande par SMS, le compte est resté injoignable et n’a pas interagi avec les internautes dans les commentaires, laissant simplement le produit dans le panier pour un achat direct. Il est à noter que le produit provenait de Chine et que les informations le concernant étaient très vagues.

Des chanteurs aux célébrités en passant par les médecins, tous ont été imités par des chaînes de vente qui créent des clips vidéo réalisés par IA pour vendre des produits liés à la santé.

Mais ce n'est pas tout : la technique du deepfake s'est également étendue au domaine spirituel. Un compte TikTok nommé Phat Phap NM a non seulement republié les conférences du Maître TPH, mais a aussi utilisé l'intelligence artificielle pour créer des images du « maître » vendant des produits tels que des feuilles de Bodhi et des bracelets en bois d'agar.

Lorsque des internautes ont laissé des commentaires demandant à acheter les produits, la chaîne a répondu : « Si les choses ne vous conviennent pas, rendez-vous dans la section présentation de mon compte et choisissez ce dont vous avez besoin. Ne soyez pas avare de petites sommes et n'ignorez pas les plus importantes. » Immédiatement après, le moine en question a dû intervenir pour préciser qu'il n'avait jamais fait la publicité de tels produits ni été impliqué dans leur vente.

La frontière entre créativité et contrefaçon

L'expert en cybersécurité Ngo Minh Hieu (Hieu PC) du Centre national de surveillance de la cybersécurité (NCSC) a déclaré que les fausses publicités diffusées sur les réseaux sociaux sont principalement créées à l'aide de logiciels de deepfake. Ces logiciels sont répandus ; de nombreux services proposent même des solutions à bas prix et très simples d'utilisation. Bien que ces logiciels aient des applications positives dans le domaine de la création de contenu numérique et de la production audiovisuelle, selon M. Hieu, le problème réside dans le fait que certains individus exploitent cette technologie à des fins malveillantes, telles que la fraude, l'usurpation d'identité, la diffusion de fausses informations ou la diffamation par le biais de vidéos d'un réalisme saisissant.

M. Hieu a également donné quelques indices permettant d'identifier les vidéos truquées (deepfakes), comme des expressions faciales quelque peu figées, des formes et des mouvements de la bouche qui ne correspondent pas aux dialogues… M. Hieu a averti qu'il y avait eu des cas plus graves où l'IA avait été utilisée pour insérer les visages de victimes dans des vidéos sensibles à des fins d'intimidation, de coercition et de profit.

Selon l'avocat Tran Duc Phuong, du barreau de Hô Chi Minh-Ville, l'utilisation de l'IA pour créer des images de célébrités (ou de personnes physiques) sans leur consentement constitue une violation des droits de la personne, et plus particulièrement du droit à l'image, tel que stipulé à l'article 32 du Code civil de 2015. Ce texte de loi stipule : « Toute personne a droit à son image. L'utilisation de son image doit être consentie par la personne concernée. L'utilisation de son image à des fins commerciales doit donner lieu à une compensation financière, sauf accord contraire des parties. »

Ainsi, si le titulaire d'un compte sur un réseau social utilise, sans autorisation, des images recréées par intelligence artificielle à partir de photos réelles, d'anciennes vidéos, etc., à des fins publicitaires ou commerciales, il enfreint la loi. Si l'utilisation d'une image contrevient aux dispositions du présent article, le titulaire de l'image est en droit de saisir le tribunal afin d'obtenir une ordonnance contraignant le contrevenant, les organismes, organisations et personnes concernés à retirer, détruire et mettre fin à l'utilisation de l'image, à indemniser le préjudice subi et à appliquer toute autre mesure prévue par la loi.

CAM NUONG

Source : https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html