Des centaines de sites Web utilisent l'IA pour produire de fausses nouvelles

Les contenus trompeurs de l’IA incluent des faits fabriqués, des conseils médicaux et des canulars sur la mort de célébrités, soulevant de nouvelles inquiétudes quant au fait que la technologie pourrait aggraver le problème de la désinformation en ligne.

Les inquiétudes concernant les sites web flottants utilisant l'IA pour diffuser de fausses informations sont devenues une réalité. Illustration : GI

Les deux rapports ont été publiés séparément par NewsGuard, une société qui suit la désinformation en ligne, et ShadowDragon, une société qui fournit des ressources et des formations pour les enquêtes numériques.

« Les lecteurs se méfient de plus en plus des sources d'information, notamment parce qu'ils ne savent pas faire la différence entre une source fiable et une source douteuse », a déclaré Steven Brill, PDG de NewsGuard, dans un communiqué. « Cette nouvelle vague de sites générés par l'IA ne fera que rendre plus difficile pour les lecteurs de savoir qui leur fournit les informations, ce qui sapera encore davantage la confiance. »

NewsGuard a identifié 125 sites Web, allant des actualités aux informations sur le style de vie et publiés en 10 langues, avec du contenu écrit entièrement ou principalement à l'aide d'outils d'IA.

Les sites comprennent un portail de santé qui, selon NewsGuard, a publié plus de 50 articles générés par l'IA offrant des conseils médicaux.

NewsGuard a déclaré que les sites étaient souvent inondés de publicités, suggérant que le contenu inauthentique était créé pour attirer les publicités des propriétaires de sites, qui étaient souvent complètement anonymes.

ShadowDragon a également découvert du contenu inauthentique sur des sites web et des réseaux sociaux, notamment sur Instagram et dans des avis Amazon. L'entreprise a également pointé du doigt plusieurs comptes Instagram qui semblaient utiliser ChatGPT ou d'autres outils d'IA pour rédiger des descriptions sous les photos et les vidéos .

Pour trouver des exemples, les chercheurs ont recherché des informations erronées flagrantes et des réponses préenregistrées souvent générées par des outils d'IA. Certains sites ont même omis de supprimer les informations générées par leurs avertissements de contenu générés par l'IA après avoir été invités à rédiger des articles contenant des informations erronées ou préjudiciables.

ShadowDragon a trouvé de tels messages sur le réseau social professionnel LinkedIn, dans des publications Twitter et sur de nombreux autres réseaux sociaux. Certains de ces messages Twitter étaient publiés par des robots, comme ReplyGPT, qui répondent automatiquement aux commentaires des utilisateurs.

Hoang Hai (selon NewsGuard, NYT)

Source: https://www.congluan.vn/phat-hien-hang-tram-trang-web-dung-ai-de-san-xuat-tin-tuc-sai-lech-post248622.html