ChatGPT et DeepSeek déforment les données scientifiques.

Il a été constaté que des modèles d'IA comme ChatGPT et DeepSeek étaient capables de déformer le contenu scientifique lors de sa synthèse, notamment dans le domaine médical.

Báo Khoa học và Đời sống•08/07/2025

Une équipe de chercheurs allemands a récemment mis en garde contre les risques de biais liés à l'utilisation de chatbots d'IA pour résumer des articles scientifiques. Après avoir analysé 4 900 résumés scientifiques rédigés par des humains, l'équipe a utilisé différents modèles d'IA pour comparer le traitement de l'information par ces systèmes. Les résultats ont montré que la plupart des chatbots commettaient l'erreur de la sur-généralisation, même lorsqu'ils étaient invités à résumer avec précision.

qu'est-ce-un-chatbot-IA.jpg

L'IA peut facilement déformer le contenu lorsqu'elle résume des recherches scientifiques.

Lors des expériences, les modèles d'IA ont commis cinq fois plus d'erreurs que les chercheurs humains lorsqu'ils n'étaient pas guidés. Même avec des exigences claires en matière de précision, le taux d'erreur restait deux fois plus élevé qu'avec un résumé standard. Un membre de l'équipe de recherche a commenté : « La généralisation peut parfois sembler anodine, mais elle modifie en réalité la nature même de la recherche initiale. Il s'agit d'un biais systémique. »

Il est à noter que les versions récentes de chatbots non seulement ne résolvent pas le problème, mais l'aggravent. Grâce à leur présentation fluide et attrayante, les résumés générés par l'IA donnent facilement une impression de fiabilité, alors que le contenu réel est déformé. Dans un cas précis, DeepSeek a remplacé l'expression « sûr et applicable avec succès » par « traitement sûr et efficace », une interprétation qui s'écarte des conclusions initiales de l'étude.

Vous aimerez peut-être

Affirmez avec assurance votre individualité unique.À Hô Chi Minh-Ville, OPPO a lancé la série Reno16 5G, qui comprend trois versions : Reno16 Pro 5G, Reno16 5G et Reno16 F 5G.

La province de Khanh Hoa prend des mesures pour protéger son « trésor » de nids de salanganes.TP - Grâce aux directives décisives du gouvernement, aux solutions synchronisées des collectivités locales et à l'implication des entreprises et de la communauté, Khanh Hoa met en œuvre une campagne globale pour protéger la population de salanganes de l'île contre la menace du braconnage.

Dien Bien : Mise en œuvre pilote de quatre procédures administratives dans le cadre du mécanisme du « canal vert » au niveau communal.Afin de promouvoir la mise en œuvre effective de la décentralisation et de la délégation de pouvoirs dans le traitement des procédures administratives, le Comité populaire de la province de Dien Bien a décidé d'autoriser les communes à expérimenter la mise en œuvre de quatre procédures administratives dans le cadre du mécanisme du « canal vert ».

Dans un autre exemple, le modèle Llama a appliqué des recommandations concernant les médicaments contre le diabète à de jeunes sujets sans préciser la posologie, la fréquence ni les effets secondaires. Si le lecteur, médecin ou professionnel de santé , ne vérifie pas ces informations auprès de l'étude originale, ce type de résumé pourrait présenter un danger direct pour les patients.

Les experts estiment que ce phénomène est lié à la méthode d'entraînement des modèles d'IA. De nombreux chatbots actuels sont entraînés à l'aide de données secondaires – comme des articles scientifiques produits en masse – déjà simplifiés. Plus l'IA synthétise ces contenus simplifiés, plus le risque de distorsion augmente.

Les experts en IA dans le domaine de la santé mentale affirment que des barrières techniques au développement et à l'utilisation de l'IA doivent être établies rapidement.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Les utilisateurs doivent être prudents car les chatbots peuvent facilement déformer le contenu.

Alors que les utilisateurs s'appuient de plus en plus sur les chatbots d'IA pour s'informer sur les sciences, de petites erreurs d'interprétation peuvent rapidement s'accumuler et se propager, engendrant des idées fausses généralisées. À l'heure où la confiance dans la science est en déclin, ce risque est particulièrement préoccupant et mérite toute notre attention.

États-Unis - Viêt Nam: Ne manquez pas

Renforcer l'amitié entre le Vietnam et les États-Unis.Le 3 juillet, dans le cadre du programme Partenariat Pacifique - Amis du Pacifique 2026, la délégation de l'armée américaine du Pacifique, dirigée par le lieutenant-général Joel Vowell, commandant adjoint de l'armée américaine du Pacifique, a effectué une visite de courtoisie au commandement militaire provincial de Quang Tri.

La délégation de l'armée américaine du Pacifique visite le commandement militaire provincial de Quang Tri.2026 marque la première fois que le programme Partenariat Pacifique-Amis du Pacifique sera organisé conjointement à Quang Tri, créant un cadre de coopération à grande échelle avec 25 activités.

Le ministère des Affaires étrangères a reçu une copie des lettres de créance de l'ambassadeur des États-Unis au Vietnam.Le 2 juillet après-midi, au siège du ministère des Affaires étrangères, M. Le Cong Dung, directeur du département du protocole d'État et de l'interprétation étrangère, a reçu une copie des lettres de créance de Mme Jennifer Wicks, ambassadrice des États-Unis d'Amérique au Vietnam.

L'intégration de l'IA dans la recherche et la diffusion des connaissances est une tendance irréversible. Cependant, les experts affirment que la technologie ne peut remplacer le rôle humain dans la compréhension et la validation des contenus scientifiques. Lors de l'utilisation de chatbots dans des domaines à haut risque comme la santé, la précision doit être privilégiée, plutôt que de se concentrer uniquement sur la fluidité de l'interaction ou la rapidité de réponse.

Source : https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html