La lutte légendaire contre la désinformation, les deepfakes et les arnaques

(NB&CL) Outre la guerre, les violences armées et les profondes divisions géopolitiques mondiales, le monde en 2024 continue de faire face à un autre combat majeur : la désinformation, les fausses nouvelles et la fraude. Ce problème, qui s’annonce comme un phénomène historique difficile à résoudre, devrait s’aggraver si la communauté internationale ne s’unit pas pour prendre des mesures radicales.

Le chaos informationnel – un danger sans cesse croissant

La perturbation de l'information, notamment la désinformation et la cyberfraude, est considérée comme une « pandémie mondiale », un combat commun à l'échelle planétaire où les médias traditionnels, dont la mission est de protéger la vérité, doivent jouer un rôle de premier plan. Cependant, ce combat ne pourra être victorieux que si des mesures radicales et fondamentales sont mises en œuvre dans chaque pays et au sein des organisations internationales.

Les fausses informations, la désinformation et surtout les activités frauduleuses sont désormais devenues les conséquences inévitables et les aspects négatifs de l'entrée du monde dans une nouvelle ère médiatique. En clair, le champ d'action n'est plus l'apanage des agences de presse et des journaux censurés. Comme nous le savons, l'essor d'Internet, des technologies de pointe et surtout des réseaux sociaux a permis à chacun de se prétendre « journaliste », « reporter » voire « porte-parole », suivi par des millions de personnes.

Les réseaux sociaux, un monde sans règles

Toute chose a deux côtés. L'essor des réseaux sociaux a apporté de nombreux avantages, notamment celui de faciliter la diffusion rapide et massive d'informations et de connaissances. Aujourd'hui, l'information concernant un accident parvient à tous en quelques minutes, même à l'autre bout du monde. De même, les informations relatives aux catastrophes naturelles telles que les inondations, les tempêtes ou les incendies de forêt sont rapidement mises à jour et partagées par tous via les réseaux sociaux, contribuant ainsi à une diffusion ou à une alerte efficaces.

Cependant, outre leurs aspects positifs, les réseaux sociaux et les plateformes de partage communautaire engendrent des conséquences inquiétantes. Plus alarmant encore, ce ne sont pas seulement les humains, mais aussi les machines et surtout la pénétration fulgurante de l'intelligence artificielle (IA) qui transforment Internet en général et les plateformes technologiques en particulier en un espace aux risques exacerbés.

« Pandémie d’information » sur les réseaux sociaux

D'après les statistiques publiées par Redline fin juin 2024, on compte 4,9 milliards d'utilisateurs de réseaux sociaux dans le monde. Selon ce sondage réalisé auprès d'Américains, la plupart d'entre eux se méfient de la fiabilité des informations diffusées sur ces plateformes, de Facebook à TikTok en passant par YouTube. C'est pourquoi Redline a employé le terme « infodémie » pour décrire l'ampleur actuelle de la désinformation sur les réseaux sociaux.

Le monde des réseaux sociaux est comme une forêt vierge, où les règles sont quasi inexistantes. On y trouve une grande richesse, une liberté et un sentiment de fraîcheur, mais aussi de dangereux pièges. À ce jour, presque tous les pays peinent encore à gérer et à organiser cette « forêt vierge », et entreprennent même les premières mesures pour sanctionner les infractions, alors même que ce « monde » englobe désormais l’humanité entière.

Fin novembre dernier, l'Australie est devenue le premier pays au monde à adopter une loi interdisant aux enfants d'accéder au monde « primitif », certes fascinant, mais dangereux et quasi anarchique. Concrètement, l'Australie interdit aux moins de 16 ans d'utiliser les réseaux sociaux et infligera de lourdes amendes pouvant atteindre 32 millions de dollars américains aux plateformes qui enfreignent cette loi.

Dans ce contexte, la prolifération de fausses informations, de désinformation et surtout de fraudes sur les réseaux sociaux (ainsi que par d'autres moyens technologiques comme les applications logicielles, les sites web frauduleux, etc.) constitue un problème mondial. Au Vietnam, nous entendons chaque jour des témoignages poignants de victimes de cyberescroqueries. À l'échelle mondiale, ce problème concerne tous les pays.

En mars dernier, Interpol a signalé que la cyberfraude en Asie du Sud-Est s'est étendue à l'échelle mondiale, générant jusqu'à 3 000 milliards de dollars par an (l'équivalent du PIB de la France). Même un géant britannique de la tech a perdu 25 millions de dollars après que des escrocs ont utilisé des deepfakes pour usurper l'identité d'un cadre supérieur et ordonner des virements. Ce ne sont là, bien sûr, que quelques exemples parmi des millions d'escroqueries en ligne.

Lutter contre la désinformation diffusée sur les réseaux sociaux : mission impossible ?

Bien que les pays et les organisations internationales déploient des efforts constants pour prévenir ou punir les activités illégales dans le cyberespace, notamment sur les grandes plateformes sociales telles que TikTok, Facebook ou X, le nombre de cas traités reste très faible.

Plus frappant encore, jusqu'à présent, quasiment aucun pays ni aucune organisation n'a tenu les réseaux sociaux responsables de leurs méfaits, tels que la diffusion de fausses informations, voire la violation de la loi. En mai dernier, Meta a elle-même admis avoir découvert sur ses plateformes Facebook et Instagram des contenus « potentiellement générés par une IA » utilisés pour manipuler ou tromper. Cette déclaration montre que les réseaux sociaux se considèrent comme « innocents » lorsqu'ils diffusent des informations nuisibles, sinon ils ne se seraient pas ainsi « avoués ».

En réalité, les géants de la tech, tels que Meta, TikTok, Google, Microsoft ou X, ont dû payer des milliards de dollars d'amendes dans le monde entier pour leurs infractions, mais celles-ci ne concernent que des violations des réglementations relatives à la protection de la vie privée des utilisateurs ou des lois antitrust, et il n'y a eu pratiquement aucune sanction à leur encontre pour avoir permis que des infractions se produisent au sein de leur « entreprise ».

Le cas le plus marquant dans ce domaine a été l'arrestation en France de Pavel Durov, le patron de Telegram, accusé de faciliter des activités criminelles sur la plateforme. Cependant, cette arrestation, perçue comme politiquement motivée, s'est déroulée dans le plus grand secret. Il ne s'agissait pas d'une procédure judiciaire publique classique contre un réseau social ou une entreprise traditionnelle. De fait, Telegram n'a jamais été sanctionné pour des activités criminelles sur sa plateforme, malgré un rapport des Nations Unies publié en octobre 2024 qui la qualifiait d'outil utilisé par des organisations criminelles pour des transactions illégales.

Le monde peine encore à gérer le problème des fausses informations, de la désinformation et de la fraude sur les réseaux sociaux. Photo d'illustration : IJNET

Ainsi, même face à des activités illégales aussi manifestes, si l'on ne peut agir sur les plateformes de médias sociaux ou le partage communautaire, il est clair que le contrôle des contenus toxiques, des fausses informations et de la désinformation est un objectif extrêmement lointain.

Ainsi, non seulement les plateformes n'ont pas peur, mais elles montrent de plus en plus de signes d'« action autonome », encourageant la diffusion d'informations controversées, sensationnalistes, absurdes ou toxiques pour attirer les internautes, grâce à leurs algorithmes toujours plus sophistiqués. Il convient de noter que les géants du numérique sont également prêts à faire pression sur toute initiative visant à les sanctionner sur ce point, voire à la contester. En septembre 2024, le milliardaire Elon Musk, propriétaire du réseau social X, a exprimé son opposition à un projet de loi australien proposant d'infliger des amendes aux entreprises de médias sociaux qui ne parviennent pas à empêcher la désinformation en ligne.

En vertu de ce projet de loi, encore australien, les plateformes internet pourraient se voir infliger une amende pouvant atteindre 5 % de leur chiffre d'affaires mondial pour diffusion de fausses informations. D'autres grandes plateformes technologiques, telles que Google et Meta, ont également exprimé leurs inquiétudes et contesté ce nouveau projet de loi australien. Il convient de noter qu'il s'agit d'un des rares projets de loi au monde à envisager des sanctions financières pour les réseaux sociaux diffusant de fausses informations, de fausses nouvelles et des activités frauduleuses.

Si l'on considère le monde des médias et du journalisme traditionnels, ce paradoxe est difficile à accepter. Chacun sait que si un journal ou une chaîne de télévision commet la moindre erreur professionnelle, a fortiori la diffusion d'informations fausses ou illégales, c'est toute la structure qui peut être sévèrement sanctionnée ; les lecteurs, à tout le moins, se détourneront de la chaîne, et non pas seulement le journaliste ou le rédacteur en chef ayant diffusé l'information qui sera tenu responsable.

La « pandémie mondiale » est en train de devenir incontrôlable.

On peut affirmer que le problème de la désinformation, des fausses nouvelles, des informations toxiques et de la fraude est plus grave que n'importe quelle guerre ou pandémie, car il peut affecter toute une génération à l'échelle mondiale, et en particulier les jeunes. De nombreuses études ont démontré les effets néfastes des réseaux sociaux, notamment les fonctionnalités addictives des vidéos courtes de Facebook, TikTok ou Google, sur la santé physique et mentale des enfants.

Dans une étude récente, l'UNICEF a souligné que les réseaux sociaux sont conçus pour capter l'attention des utilisateurs le plus longtemps possible, en exploitant nos biais et nos vulnérabilités psychologiques, comme le besoin d'approbation ou la peur du rejet. L'usage excessif des réseaux sociaux a été associé à des sentiments d'envie, d'infériorité et à une faible satisfaction de vie. Des études suggèrent même que cette habitude peut entraîner des symptômes de dépression, d'anxiété et de troubles du sommeil, dont le plus fréquent est la maladie mentale.

La chanteuse Taylor Swift fait partie des célébrités victimes de deepfakes (images truquées par l'intelligence artificielle). Photo : Herbert Wang

La réglementation vietnamienne obligeant les réseaux sociaux à authentifier leurs utilisateurs entrera en vigueur.

Le décret 147/2024/ND-CP relatif à la gestion, à la fourniture et à l'utilisation des services Internet et de l'information en ligne, récemment promulgué par le gouvernement vietnamien, entrera en vigueur le 25 décembre 2024. Ce décret impose aux réseaux sociaux d'authentifier leurs utilisateurs par numéro de téléphone ou code PIN, et seuls les comptes authentifiés sont autorisés à publier des informations (articles, commentaires, diffusions en direct) et à partager des informations sur les réseaux sociaux. Ce décret devrait permettre de limiter considérablement la diffusion de fausses informations et d'informations trompeuses, notamment les activités frauduleuses sur les réseaux sociaux.

Il existe de nombreux exemples illustrant comment la désinformation, les fausses nouvelles et les deepfakes peuvent avoir de graves conséquences sur la vie réelle et constituer une menace mondiale. En août dernier, des émeutes ont éclaté suite à la diffusion sur les réseaux sociaux d'une fausse information selon laquelle le suspect du meurtre d'une jeune fille au Royaume-Uni, poignardée à mort, était un immigré musulman radical (alors qu'il était en réalité britannique). Ces émeutes ont conduit à des milliers d'arrestations par la police.

Lors de la tentative d'assassinat de Donald Trump en juillet 2024, les réseaux sociaux ont été inondés de fausses informations et de théories du complot, comme le cas d'un journaliste italien considéré comme suspect (alors qu'il s'agissait en réalité d'un Américain de 20 ans). De plus, des informations erronées ont circulé sur les réseaux sociaux, affirmant que le suspect était chinois ou que l'incident était une mise en scène. La diffusion de fausses informations alimente également la haine liée aux conflits et aux zones de tension dans le monde, tels que la guerre russo-ukrainienne, le conflit israélo-palestinien ou encore l'islamophobie et l'antisémitisme.

Pourtant, avec l'essor de l'IA, la lutte contre la désinformation devient incontrôlable. Les outils de deepfake et les modèles d'IA bon marché prolifèrent sans aucun contrôle significatif.

D'après les statistiques de DeepMedia, le nombre de vidéos et d'enregistrements vocaux truqués (deepfakes) a explosé chaque année. En 2023, le nombre de vidéos truquées a plus que triplé et celui des enregistrements vocaux plus que huit fois supérieur par rapport à 2022. On prévoit qu'environ 500 000 vidéos et enregistrements vocaux truqués seront partagés sur les réseaux sociaux dans le monde en 2024.

Début 2024, une série d'images pornographiques de la chanteuse Taylor Swift, générées par intelligence artificielle, sont devenues virales sur les réseaux sociaux, provoquant un tollé mondial. Par ailleurs, de nombreux responsables politiques à travers le monde, dont le président américain Joe Biden et des dirigeants du Royaume-Uni, d'Inde, du Nigeria, du Soudan, d'Éthiopie et de Slovaquie, ont également été victimes de la technologie des deepfakes.

Ainsi, le problème des fausses informations, de la désinformation et surtout des activités frauduleuses dans le cyberespace s'aggrave de jour en jour. À l'ère de l'intelligence artificielle qui s'annonce, cette « pandémie mondiale » risque de devenir incontrôlable sans une mobilisation internationale, et notamment des décideurs politiques de chaque pays.

Hoang Hai

Source : https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html