Identifier les fausses informations créées grâce à la technologie d'IA générative

Le 25 novembre, s'adressant aux journalistes du quotidien CAND, un représentant du Département de la cybersécurité et de la prévention de la cybercriminalité du ministère de la Sécurité publique a déclaré que, lors des inondations dans le centre-sud du pays, des milliers de fausses informations avaient été créées et diffusées sur Internet. Les services de police ont vérifié et élucidé près de 70 cas de diffusion de fausses informations et sanctionné les personnes impliquées.

1. À l'ère du numérique , la désinformation est un problème mondial. Dans notre pays, ces derniers jours, la diffusion de fausses informations concernant les inondations dans le centre-sud a révélé l'ampleur du phénomène. Les algorithmes des réseaux sociaux, qui privilégient l'indignation et le partage, sont des acteurs clés de la propagation rapide des fausses informations. Sous l'influence de leurs émotions, les utilisateurs des réseaux sociaux sont manipulés par ces fausses informations et deviennent même, involontairement, des relais de leur diffusion lorsqu'ils cliquent sur « Partager ». L'intelligence artificielle générative crée et diffuse de fausses informations à une vitesse vertigineuse.

Fausses informations concernant les inondations à Dak Lak .

Selon les informations des autorités de la commune de Hoa Thinh, dans la province de Dak Lak – épicentre des récentes inondations –, au 24 novembre à midi, la commune déplorait 25 décès et aucun disparu. Nombreux sont ceux qui ont sans doute vu la vidéo d'une femme témoignant, se disant témoin oculaire, qu'« un immeuble où de nombreuses personnes s'étaient réfugiées s'est effondré » et que « des corps flottaient à la surface… ». Son expression, sa voix et ses descriptions laissent entrevoir l'horreur de la situation à Hoa Thinh.

Alors que les inondations déferlaient sur les anciennes provinces du Centre-Sud (Binh Dinh, Phu Yen , Khanh Hoa et Ninh Thuan), les informations provenant de prétendus « témoins » ont immédiatement suscité une vive émotion au sein de la communauté en ligne. Nombreux furent ceux qui y crurent sur-le-champ. Pris de panique, d'angoisse et de peur, beaucoup partageèrent ces informations. Parallèlement, des individus mal intentionnés s'empressèrent de les modifier et de les diffuser sur les réseaux sociaux afin de générer des vues, d'accroître l'interaction, de monétiser les plateformes numériques et de saboter les opérations de secours menées par les autorités et les volontaires.

Dans le contexte où de nombreux enfants du Centre-Sud étudient et vivent loin de leurs proches, privés d'électricité et de réseau téléphonique, la situation atteint un point critique lorsque les réseaux sociaux sont inondés d'informations sur les inondations générées par l'intelligence artificielle. Cette dernière a créé des photos et des vidéos saisissantes de réalisme, qui se sont propagées à une vitesse fulgurante. À partir d'informations non vérifiées, les réseaux sociaux sont en proie à de fausses rumeurs, notamment sur des personnes mourant de faim, de froid ou d'asphyxie à cause des inondations.

Dans la vidéo, Mme V. fait référence à de fausses informations concernant le nombre de décès dans la commune de Hoa Thinh, province de Dak Lak (photo de gauche). Mme V. se trouve au poste de police après avoir signalé ces fausses informations (photo de droite).

Le 23 novembre, le département de la cybersécurité et de la prévention de la cybercriminalité de la police provinciale de Dak Lak, en collaboration avec la police de la commune d'Ea Kar, a interrogé Mme Nguyen Thi Ngoc V. (résidant au village de Tan Yen, commune d'Ea Ly), la femme apparaissant dans la vidéo diffusant de fausses informations dans la commune de Hoa Thinh. Mme V. a reconnu que la vidéo avait été filmée à son insu et qu'elle n'avait pas anticipé l'ampleur des répercussions de ces informations.

Il est avéré que dans la seule province de Dak Lak, au plus fort des inondations, la police a découvert de nombreux comptes Facebook et TikTok diffusant des contenus et des images inexacts relatifs à la catastrophe. Ces publications ont non seulement semé la panique parmi la population, mais ont également entravé les opérations de secours. La police a vérifié les comptes, adressé des avertissements et demandé à 17 personnes de s'engager à ne pas récidiver ; 5 personnes ont été condamnées à des amendes administratives pour un montant total de 37 500 000 VND ; et 30 publications contenant de fausses informations ont fait l'objet d'une demande de suppression.

2. Concernant la désinformation diffusée lors des inondations dans le Centre-Sud, le capitaine Nguyen Khanh Hoa, du Département de la cybersécurité et de la prévention de la cybercriminalité, a déclaré que des milliers de fausses informations avaient récemment circulé sur Internet. Créées par des outils d'intelligence artificielle, ces fausses informations sont produites en grande quantité et se propagent très rapidement, surpassant largement les informations officielles. Leurs auteurs, outre la recherche de vues et de « likes », en profitent également pour lancer des appels à la charité et saboter les opérations de secours.

Images truquées créées à l'aide de la technologie de l'IA.

Il est essentiel que chacun puisse identifier les fausses informations, notamment en prenant le temps d'observer l'image, la couleur et la forme de la bouche, en comparant les informations et en consultant les sources officielles. Ces derniers jours, les fausses informations ont fortement impacté la société, en particulier les populations touchées par les inondations. Afin de prévenir et de lutter contre la désinformation, les autorités ont mis en œuvre des mesures techniques et professionnelles de surveillance et de détection. Selon leur nature, les auteurs et diffuseurs de fausses informations s'exposent à des sanctions administratives ou pénales. Les utilisateurs des réseaux sociaux doivent rester vigilants et contribuer à la protection de l'information en ligne, aux côtés des autorités, afin de garantir un environnement informationnel sain.

Sur sa page Facebook personnelle, Le Quoc Vinh, expert en médias et directeur de la société Le Boss, a expliqué pourquoi les fausses informations ont la vie dure. Il a notamment souligné que : les fausses informations touchent les émotions avant même que la raison n'ait eu le temps d'agir ; elles proposent des récits faciles à croire dans un monde complexe ; elles confortent les préjugés du public ; les algorithmes des réseaux sociaux privilégient la colère et la division ; de nombreuses organisations gèrent mal les crises, contribuant ainsi, involontairement, à la diffusion de fausses informations ; les fausses informations sont un outil de la guerre médiatique moderne ; la lenteur de la presse traditionnelle et des agences de communication a créé un « déficit d'information » propice à leur propagation.

M. Vinh a également déclaré : « Les fausses informations survivent non seulement grâce à ceux qui les créent, mais aussi grâce à ceux qui les partagent. Nous, utilisateurs des réseaux sociaux, sommes à la fois victimes et acteurs de leur propagation, qui en fait un véritable virus émotionnel. »

3. La lecture de cette publication du 23 novembre sur la page Facebook personnelle de M. Phuong Van Lanh, secrétaire du comité du Parti de la commune de Hoa Thinh, province de Dak Lak, révèle les efforts déployés par les autorités locales et les services d'urgence dans les opérations de secours, ainsi que les conséquences de la désinformation. C'est l'information officielle du responsable du centre de gestion des inondations qui a démenti cette fausse information.

Le 25 novembre, sur les réseaux sociaux, les médias traditionnels ont diffusé des images de policiers, de militaires, de jeunes, de personnels médicaux… s’efforçant de venir en aide aux populations des zones inondées. Un mouvement de soutien aux habitants des provinces du Centre-Sud, afin de surmonter les conséquences des inondations, a été lancé et mis en œuvre par les provinces, les villes, les organisations, les agences et les entreprises. Ces informations exactes et positives ont contribué à lutter contre la désinformation, à créer un environnement informationnel sain sur Internet et, par conséquent, à partager les difficultés et les pertes rencontrées par les personnes sinistrées.

Vinh Nghi

Source : https://cand.com.vn/phap-luat/nhan-dien-tin-gia-duoc-tao-bang-cong-nghe-ai-tao-sinh-i789242/