Réseaux sociaux, intelligence artificielle et algorithmes d’amplification : la combinaison « atomique

Algorithme d'incitation à la haine

Les algorithmes des réseaux sociaux ne se contentent plus de suggérer des contenus divertissants, mais amplifient également les discours de haine et les idéologies extrémistes. Le Secrétaire général de l'ONU, António Guterres, a averti que certaines plateformes de réseaux sociaux sont devenues de véritables « décharges à ciel ouvert » où pullulent discours de haine et désinformation, alimentant ainsi la propagation de l'extrémisme.

Des études menées sur le terrain montrent qu'en quelques jours seulement, les algorithmes de recommandation peuvent aggraver le problème. Par exemple, une étude britannique a révélé que l'algorithme de TikTok avait quadruplé les recommandations de contenus misogynes, passant de 13 % à 56 % des vidéos en seulement cinq jours.

Les chercheurs expliquent que l'algorithme cible automatiquement les vulnérabilités des utilisateurs (telles que les sentiments de solitude, de perte de contrôle, de haine), transformant ainsi le contenu extrémiste en un « divertissement » attrayant pour capter l'attention des spectateurs.

Aujourd'hui, sur les réseaux sociaux, même de petites informations ou des rumeurs infondées peuvent facilement déclencher des violences. Les émeutes de 2024 au Royaume-Uni en sont un exemple typique. Après l'attaque de Southport, de fausses rumeurs concernant le suspect – qu'il était musulman ou réfugié – se sont rapidement propagées sur les réseaux sociaux, accompagnées de propos islamophobes et xénophobes. Selon un rapport de 2024 du Bureau de la responsabilité gouvernementale des États-Unis (GAO), près d'un tiers des internautes ont été exposés à des discours haineux en ligne.
En particulier, une série de manifestations graves récentes, des émeutes menées par la génération Z ou des étudiants dans différents pays, de l'Asie à l'Afrique en passant par l'Amérique latine, ont toutes été initiées et attisées sur les plateformes de médias sociaux, selon un scénario presque identique : exploiter un problème puis inciter toute la société.

Il a conquis — Les logiciels d'IA et les algorithmes d'amplification manipulent à la fois les mondes virtuel et réel. Illustration : Nafets

La majeure partie du monde est plongée dans l'« illusion ».

L'essor de l'IA engendre des situations incontrôlables, permettant à presque n'importe qui de créer une « usine à fausses informations » à une échelle et une vitesse sans précédent. Des modèles d'IA comme GPT, Claude ou LLaMA peuvent générer automatiquement en une fraction de seconde une série d'articles, d'images et de vidéos déformés. Un système de bots IA peut simultanément créer et diffuser des milliers de publications ou de commentaires, transformant ainsi les fausses informations et les contenus toxiques en « tendances » en ligne.

Une étude de l'université RIT aux États-Unis affirme : « L'IA a considérablement accéléré la propagation de toutes sortes de désinformation… Les robots d'IA peuvent diffuser ce contenu sur Internet, car ils n'ont pas besoin de l'intervention humaine pour le créer. »

Aujourd'hui, pour quelques dizaines de dollars par mois seulement, grâce à un outil d'IA, n'importe qui peut créer des milliers de fausses images et vidéos, qu'il s'agisse de voix, de photos ou de vidéos. Le niveau de sophistication et la fréquence de ces créations sont tels que nous nous demandons tous : ce que nous voyons sur les réseaux sociaux est-il généré par l'IA ?

L'ironie, c'est que la majeure partie de la population mondiale passe des heures chaque jour dans ce monde virtuel, au point d'y prendre goût, voire d'y être accro. Selon le rapport Digital 2025, entre 5,2 et 5,6 milliards de personnes utilisent les réseaux sociaux, soit 64 % de la population mondiale. En moyenne, chaque personne y consacre environ 2 heures et 20 minutes par jour.

Il faut contrôler les bombes « atomiques »

Face à la production toujours plus rapide et peu coûteuse de fausses informations et de désinformation, le contrôle des contenus sur Internet échappe presque totalement à l'intervention humaine. Lukasz Olejnik, expert en technologies au King's College de Londres (Royaume-Uni), a déclaré : « Chaque mois, les usines à fausses informations deviennent plus performantes, moins chères et plus difficiles à détecter. »

Par ailleurs, une étude de RAND datant de 2024 a souligné que la perspective que l'IA puisse « inonder Internet » de faux comptes sur les réseaux sociaux est claire et presque inévitable, sauf imprévu.

La technologie nucléaire fut jadis une grande invention de l'humanité, tout comme les réseaux sociaux. Cependant, sans contrôle, elle pourrait engendrer des catastrophes. De même, si les réseaux sociaux, l'intelligence artificielle et les algorithmes d'amplification sont laissés à eux-mêmes, ils pourraient déclencher de véritables « bombes atomiques » dans le cyberespace, suffisamment puissantes pour détruire le monde réel.

Source : https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html