Contrairement à la période précédente, où l'accès aux outils artificiels pour créer des vidéos deepfakes était plutôt limité, de nombreux outils d'IA tels que Grok, ChatGPT, Meta AI, Gemeni et DeepSeek ont été largement diffusés et permettent l'utilisation gratuite de fonctionnalités de base, notamment la création d'images. Les utilisateurs peuvent créer l'image souhaitée, voire la recadrer et la modifier, sans avoir à maîtriser des techniques de traitement spécialisées. Cela a conduit à une augmentation du recours à l'IA pour créer des imitations de visages à des fins allant du divertissement aux menaces sur Internet.
Mme YN (District 1, Hô-Chi-Minh-Ville) a déclaré avoir été victime d'une manipulation d'image par IA visant à la menacer et à lui demander de payer une forte somme d'argent si elle souhaitait récupérer des données « sensibles », alors que celles-ci avaient été entièrement créées par des outils d'intelligence artificielle. Plus précisément, ses photos personnelles ont été collectées par des criminels, qui ont retouché leurs visages pour créer des contenus malveillants, créant ainsi des conversations sensibles et s'adressant ensuite à Mme YN pour la faire chanter.
Les criminels utilisent l'IA pour éditer, recadrer et faire chanter leurs victimes
« Ils m'ont montré des captures d'écran des fausses conversations, images et vidéos qu'ils avaient créées, puis m'ont demandé 100 millions de VND pour supprimer le contenu. Je dois admettre que ces images composites sont impossibles à identifier comme vraies ou fausses », a déclaré la victime, ajoutant avoir signalé ce comportement aux autorités.
Le cas de Mme YN n'est qu'un exemple parmi tant d'autres d'utilisation abusive de l'IA et d'outils de retouche d'images à des fins malveillantes. Actuellement, les utilisateurs des réseaux sociaux au Vietnam affichent encore une grande insouciance lorsqu'il s'agit de partager des images personnelles, des photos de leurs proches et de leurs amis en ligne et publiquement, malgré les nombreuses mises en garde des experts en sécurité informatique à ce sujet.
Récemment, le ministère de la Sécurité publique a également alerté les utilisateurs de téléphones portables sur l'émergence de criminels qui exploitent les images et vidéos publiques sur Internet, les retouchant, les coupant et les combinant pour créer du contenu sensible à des fins de menace et de chantage. « Il est conseillé d'être vigilant lors de la réception de messages ou d'appels contenant ce type de contenu et de ne pas transférer d'argent en cas de menace. En cas de détection de signes de fraude ou d'extorsion de biens, il est conseillé de signaler rapidement au service de police le plus proche via l'application VNeID », précise l'avis.
Outre le chantage, les criminels peuvent également utiliser de nombreuses images et vidéos publiques de leurs victimes pour créer de faux contenus afin de diffamer leur réputation professionnelle, de se venger et de porter atteinte à leur moralité et à leur honneur. Ces faux documents sont de plus en plus sophistiqués et difficiles à distinguer, tant pour le grand public que pour les personnes intéressées par l'intelligence artificielle.
Une étude menée fin 2018 par Tidio, une entreprise polonaise qui développe des chatbots IA pour soutenir les ventes, a révélé que la majorité des internautes ont de plus en plus de mal à distinguer les images générées par l'IA. L'entreprise affirme que 87 % des personnes interrogées ont confondu les images générées par l'IA avec des photos de personnes réelles. De plus, 62 % des personnes interrogées ont exprimé un intérêt pour l'IA et l'apprentissage automatique, mais la moitié d'entre elles n'ont pas réussi à identifier correctement les images générées par l'intelligence artificielle.
Il n’existe actuellement aucune réglementation spécifique concernant l’utilisation de l’IA dans la cybercriminalité, mais l’utilisation d’images d’autres personnes pour menacer, faire chanter ou diffuser de fausses informations peut toujours être traitée en vertu des dispositions relatives au crime d’humiliation d’autrui, d’extorsion de biens ou de diffusion de produits culturels obscènes.
Face à cette situation, les experts recommandent aux utilisateurs d'être prudents lorsqu'ils partagent des images personnelles sur les réseaux sociaux et d'utiliser des outils de sécurité pour contrôler la confidentialité.
Source : https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm
Comment (0)