Quand l'IA devient la coupable d'amplifier la désinformation

Quand l'IA devient la coupable de l'amplification de la désinformation - photo 1 — Photo d'illustration

Les fausses informations explosent sur les réseaux sociaux

En une décennie, les réseaux sociaux sont passés du simple lieu de partage de photos et de mises à jour de statut à la « scène » d'innombrables histoires non vérifiées.

Ce qui rend les fausses informations si dangereuses, c'est leur rapidité de propagation : il suffit d'une seule publication provenant d'un seul compte et de quelques partages pour que l'information devienne incontrôlable et se retrouve dans les conversations de millions de personnes.

Nombreux sont ceux qui pensent être suffisamment lucides pour faire face aux fausses informations, mais la réalité est tout autre. Ces dernières sont souvent teintées d'émotions fortes – colère, compassion, indignation… – ce qui incite les internautes à négliger la vérification des sources.

Les algorithmes des réseaux sociaux favorisent les contenus controversés, les faisant involontairement remonter dans le fil d'actualité. Plus un contenu est vu, plus il est cru, et le cycle se perpétue.

Les conséquences vont bien au-delà d'une simple incompréhension. Dans de nombreux pays du monde , y compris au Vietnam, les fausses informations ont nui à la réputation de personnes, perturbé les activités commerciales, engendré des troubles sociaux et même influencé les décisions politiques.

Cette réalité nous rappelle que nous vivons à une époque où chaque information que nous recevons doit être réévaluée avant d'être acceptée et partagée.

Identifier les fausses informations créées grâce à la technologie d'IA générative

Alors que les fausses informations étaient autrefois créées en déformant la vérité, la technologie de l'IA (du texte, des images aux vidéos ) a désormais transformé la création de désinformation en un processus beaucoup plus rapide, moins coûteux et plus difficile à détecter.

Des photos réalistes sont créées en quelques secondes, tandis que les vidéos deepfake imitent les voix et les visages humains avec une telle précision qu'il est difficile de les distinguer à l'œil nu. De nombreux internautes ont vu des images de personnalités politiques apparaissant dans des lieux où elles n'ont jamais mis les pieds, des entreprises se faire falsifier des déclarations, ou encore des personnes ordinaires placées dans des situations totalement irréelles. Les créations de l'IA générative agissent comme une sorte de « camouflage technologique », transformant de fausses informations en informations plausibles et rendant difficile la mise en doute de leur véracité.

Cependant, les fausses informations créées par l'IA laissent tout de même des traces. Des yeux étranges, des doigts supplémentaires, de petits détails comme l'éclairage, les proportions corporelles ou des mots trop parfaits et dénués d'émotion… sont autant de signes de reconnaissance.

De plus, de nombreuses plateformes ont désormais commencé à intégrer des outils de détection de contenu générés par l'IA, mais les capacités de reconnaissance n'ont pas encore suivi le rythme des progrès technologiques.

Ce contexte exige des utilisateurs des médias sociaux qu'ils prennent une habitude : toujours se demander « qui a créé cette information ? », « pourquoi apparaît-elle à ce moment précis ? », « existe-t-il une source officielle pour la confirmer ? »… Dans un monde où l'IA peut créer une « vérité alternative », c'est la prudence des utilisateurs des médias sociaux qui devient le rempart le plus important.

Source : https://baovanhoa.vn/nhip-song-so/khi-tin-gia-ai-tro-thanh-thu-pham-khuech-dai-thong-tin-sai-lech-186877.html