Les deepfakes politiques figurent en tête de liste des utilisateurs malveillants d'IA.

Une étude de Google DeepMind indique que la création de fausses images, vidéos et enregistrements audio humains est presque deux fois plus fréquente que la création de fausses informations à l'aide d'outils comme les chatbots d'IA.

L'analyse révèle que l'objectif le plus fréquent des acteurs utilisant l'intelligence artificielle de synthèse à mauvais escient est de façonner ou d'influencer l'opinion publique. Cela représente 27 % des utilisations, ce qui soulève des inquiétudes quant à l'impact potentiel des deepfakes sur les élections mondiales cette année.

Une fausse œuvre d'art représentant le Premier ministre britannique Rishi Sunak est apparue sur TikTok et Instagram avant les élections générales. Photo : AFP

Des deepfakes du Premier ministre britannique Rishi Sunak, ainsi que d'autres dirigeants mondiaux, sont apparus sur TikTok, X et Instagram ces derniers mois. Les électeurs britanniques se rendront aux urnes la semaine prochaine pour les élections générales.

On craint que, malgré les efforts des plateformes de médias sociaux pour étiqueter ou supprimer ce type de contenu, le public ne le reconnaisse pas comme faux et que sa diffusion puisse influencer les électeurs.

Ardi Janjeva, chercheur associé à l'Institut Alan Turing, a qualifié les conclusions de l'article de « particulièrement pertinentes », suggérant que les informations publiques générées par l'IA pourraient « fausser notre compréhension commune de la réalité socio -politique ».

« Même si nous ne sommes pas certains de l'impact des deepfakes sur le comportement électoral, cette distorsion peut être difficile à détecter à court terme et représente un risque à long terme pour la démocratie », a ajouté Janjeva.

« De nombreuses inquiétudes ont été soulevées concernant les cyberattaques plutôt sophistiquées que ces outils peuvent engendrer », a déclaré la chercheuse Nahema Marchal, auteure principale de l'étude chez Google DeepMind.

Des chercheurs de Google DeepMind et Jigsaw ont analysé environ 200 cas d'utilisation abusive de l'IA entre janvier 2023 et mars 2024, provenant des plateformes de médias sociaux X et Reddit, ainsi que de blogs en ligne et de reportages médiatiques sur le sujet.

La deuxième motivation la plus fréquente à l'origine de ces abus est le gain financier, notamment par la création d'images de personnes nues ou l'utilisation de l'IA pour générer divers types de contenus, comme de faux articles d'actualité. La plupart des cas utilisent des outils facilement accessibles qui « ne nécessitent que des compétences techniques minimales », ce qui permet à de nombreuses personnes mal intentionnées de détourner l'IA de manière créative.

Ngoc Anh (selon le FT)

Source : https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html