ChatGPT et DeepSeek déforment les données scientifiques.

Une équipe de chercheurs allemands a récemment mis en garde contre les risques de biais liés à l'utilisation de chatbots d'IA pour résumer des articles scientifiques. Après avoir analysé 4 900 résumés scientifiques rédigés par des humains, l'équipe a utilisé différents modèles d'IA pour comparer le traitement de l'information par ces systèmes. Les résultats ont montré que la plupart des chatbots commettaient l'erreur de la sur-généralisation, même lorsqu'ils étaient invités à résumer avec précision.

qu'est-ce-un-chatbot-IA.jpg

L'IA peut facilement déformer le contenu lorsqu'elle résume des recherches scientifiques.

Lors des expériences, les modèles d'IA ont commis cinq fois plus d'erreurs que les chercheurs humains lorsqu'ils n'étaient pas guidés. Même avec des exigences claires en matière de précision, le taux d'erreur restait deux fois plus élevé qu'avec un résumé standard. Un membre de l'équipe de recherche a commenté : « La généralisation peut parfois sembler anodine, mais elle modifie en réalité la nature même de la recherche initiale. Il s'agit d'un biais systémique. »

Il est à noter que les versions récentes de chatbots non seulement ne résolvent pas le problème, mais l'aggravent. Grâce à leur présentation fluide et attrayante, les résumés générés par l'IA donnent facilement une impression de fiabilité, alors que le contenu réel est déformé. Dans un cas précis, DeepSeek a remplacé l'expression « sûr et applicable avec succès » par « traitement sûr et efficace », une interprétation qui s'écarte des conclusions initiales de l'étude.

Vous aimerez peut-être

Viettel ouvre l'accès aux données du monde réel et lance une course à l'IA à l'échelle nationale.Pour la première fois, Viettel ouvre ses données et ses problématiques commerciales à la communauté technologique lors de la Viettel AI Race 2026, dans le but de développer des solutions d'IA pratiques.

Comment Paris a-t-elle dépensé des milliards d'euros pour transformer la Seine en « climatiseur » ?(Journal Dan Tri) - Afin de réduire le besoin d'appareils de refroidissement individuels, Paris a investi 2,4 milliards d'euros pour étendre son système de refroidissement urbain en utilisant l'eau de la Seine.

Viettel met des données du monde réel à la disposition des équipes concurrentes développant des solutions d'IA.Le 2 juillet, le Groupe de télécommunications militaires vietnamien (Viettel) a lancé le concours Viettel AI Race 2026. Cette année, les équipes les plus performantes auront accès à des données réelles, travailleront directement avec des experts et devront résoudre des problèmes liés à la production et aux opérations commerciales de Viettel.

Dans un autre exemple, le modèle Llama a appliqué des recommandations concernant les médicaments contre le diabète à de jeunes sujets sans préciser la posologie, la fréquence ni les effets secondaires. Si le lecteur, médecin ou professionnel de santé , ne vérifie pas ces informations auprès de l'étude originale, ce type de résumé pourrait présenter un danger direct pour les patients.

Les experts estiment que ce phénomène est lié à la méthode d'entraînement des modèles d'IA. De nombreux chatbots actuels sont entraînés à l'aide de données secondaires – comme des articles scientifiques produits en masse – déjà simplifiés. Plus l'IA synthétise ces contenus simplifiés, plus le risque de distorsion augmente.

Les experts en IA dans le domaine de la santé mentale affirment que des barrières techniques au développement et à l'utilisation de l'IA doivent être établies rapidement.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Les utilisateurs doivent être prudents car les chatbots peuvent facilement déformer le contenu.

Alors que les utilisateurs s'appuient de plus en plus sur les chatbots d'IA pour s'informer sur les sciences, de petites erreurs d'interprétation peuvent rapidement s'accumuler et se propager, engendrant des idées fausses généralisées. À l'heure où la confiance dans la science est en déclin, ce risque est particulièrement préoccupant et mérite toute notre attention.

États-Unis - Viêt Nam: Ne manquez pas

Le ministère des Affaires étrangères a reçu une copie des lettres de créance de l'ambassadeur des États-Unis au Vietnam.Le 2 juillet après-midi, au siège du ministère des Affaires étrangères, M. Le Cong Dung, directeur du département du protocole d'État et de l'interprétation étrangère, a reçu une copie des lettres de créance de Mme Jennifer Wicks, ambassadrice des États-Unis d'Amérique au Vietnam.

L'ambassadeur Nguyen Quoc Dung est en visite et travaille au Minnesota, aux États-Unis.Du 28 au 30 juin, l'ambassadeur du Vietnam aux États-Unis, Nguyen Quoc Dung, a effectué une visite et travaillé au Minnesota.

Le Vietnam encourage les entreprises américaines à accroître leurs investissements dans les hautes technologies.Le 26 juin au matin, au siège du gouvernement, le vice-Premier ministre Ho Quoc Dung a reçu M. Jeff Place, directeur de la chaîne d'approvisionnement du groupe Coherent (États-Unis). Au cours de cette rencontre, le vice-Premier ministre a affirmé que le Vietnam encourageait les entreprises américaines à accroître leurs investissements, notamment dans les secteurs de la haute technologie, de l'innovation et des semi-conducteurs.

L'intégration de l'IA dans la recherche et la diffusion des connaissances est une tendance irréversible. Cependant, les experts affirment que la technologie ne peut remplacer le rôle humain dans la compréhension et la validation des contenus scientifiques. Lors de l'utilisation de chatbots dans des domaines à haut risque comme la santé, la précision doit être privilégiée, plutôt que de se concentrer uniquement sur la fluidité de l'interaction ou la rapidité de réponse.

Source : https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html