L'IA devient progressivement un « médecin en ligne ».

Le développement rapide des chatbots d'IA comme ChatGPT, Gemini et Claude transforme l'accès à l'information médicale . En quelques questions seulement, les utilisateurs peuvent obtenir des réponses quasi instantanées sur leurs symptômes, leurs médicaments, leurs maladies ou leur santé mentale, sans avoir à prendre rendez-vous ni à attendre à l'hôpital.

Une enquête menée par le King's College de Londres auprès de plus de 2 000 personnes au Royaume-Uni a révélé que plus de 15 % d'entre elles avaient utilisé des chatbots d'IA pour se renseigner sur des problèmes de santé au lieu de consulter un médecin généraliste ou le système de santé publique NHS.

Au-delà des problèmes physiques, l'IA est également utilisée par de nombreuses personnes pour soutenir la santé mentale. Environ 10 % des personnes interrogées ont déclaré avoir recours à des chatbots pour obtenir de l'aide en santé mentale plutôt qu'à des professionnels qualifiés. Les experts considèrent cela comme un signe inquiétant, car l'IA devient de plus en plus le premier point de contact pour de nombreux problèmes de santé.

En quelques questions seulement, les utilisateurs peuvent obtenir des réponses quasi instantanées de la part de chatbots dotés d'intelligence artificielle concernant leurs symptômes, leurs médicaments, leurs maladies ou leur santé mentale. (Image : nationalhealthexecutive.com)

D'après l'étude, la commodité est la principale raison pour laquelle les gens se tournent vers l'IA. Près de la moitié des participants ont déclaré que les chatbots leur permettaient d'accéder plus rapidement et plus facilement à l'information. Nombre d'autres utilisent l'IA par curiosité pour les nouvelles technologies ou parce qu'ils ne savent pas si leur état de santé justifie une consultation médicale.

Le professeur Graham Lord, principal auteur de l'étude, a souligné que la prolifération des chatbots crée un « système de santé basé sur l'IA qui n'est pas réglementé en parallèle avec le système de santé publique ». Selon lui, l'IA transforme rapidement l'accès aux soins de santé, mais cela soulève d'importants problèmes de fiabilité, de sécurité et de responsabilité.

Cette tendance ne se limite pas au Royaume-Uni ; elle se développe rapidement dans de nombreux pays. Aux États-Unis, une enquête du West Health-Gallup Center sur la santé, menée auprès d'environ 5 600 adultes, a révélé qu'une personne sur quatre utilise des chatbots pour rechercher des informations ou des conseils en matière de santé. Environ 14 % ont déclaré ne pas avoir consulté de médecin après avoir reçu des informations via une intelligence artificielle.

Risques imprévus

Leur popularité croissante s'accompagne de nombreuses mises en garde concernant les risques imprévisibles liés aux conseils erronés, voire dangereux, prodigués par les chatbots. Plusieurs études récentes montrent que ces chatbots peuvent effectivement fournir des diagnostics inexacts ou des conseils potentiellement nuisibles aux utilisateurs, notamment dans des situations médicales complexes ou en cas de manque de données.

Dans une étude publiée dans JAMA Network Open par une équipe de chercheurs du système de santé Mass General Brigham, des scientifiques ont demandé à 21 modèles d'intelligence artificielle de « jouer le rôle de médecins » face à des situations médicales hypothétiques. Les résultats ont montré que les chatbots tiraient souvent des conclusions hâtives au lieu de maintenir le doute et de poursuivre l'analyse comme le font les médecins. L'étude a révélé que ces chatbots ont posé des diagnostics erronés dans 80 % des cas.

Par ailleurs, les résultats d'une autre étude publiée dans BMJ Open, qui a testé cinq chatbots d'IA avec 250 questions relatives au cancer, aux vaccins, à la nutrition et à d'autres sujets de santé susceptibles de faire l'objet de désinformation, ont montré que le taux de réponses correctes dépassait légèrement les 50 %, tandis qu'environ 20 % des réponses incorrectes étaient jugées potentiellement dangereuses si elles étaient suivies. Nicholas Tiller, co-auteur de l'étude, a déclaré que le plus inquiétant était que les IA répondent souvent avec un haut degré d'assurance, même lorsqu'elles se trompent. « Si quelqu'un suit ces conseils, il y a de fortes chances qu'il en subisse un préjudice », a-t-il affirmé.

Le plus inquiétant est que de nombreuses personnes commencent à considérer les chatbots comme de véritables médecins. Selon une enquête du King's College de Londres, environ 20 % des utilisateurs d'IA ont déclaré que la réponse du chatbot leur avait fait croire qu'ils n'avaient pas besoin de consulter un médecin. Près d'un quart d'entre eux ont même affirmé avoir renoncé à consulter un médecin après avoir lu la réponse de l'IA.

Ces chiffres ont amené des experts à craindre que l'IA n'augmente le taux de retards de traitement ou d'automédication sans avis médical.

La professeure Victoria Tzortziou Brown, présidente du Collège royal des médecins généralistes du Royaume-Uni, a averti qu'il serait « extrêmement préoccupant » que l'intelligence artificielle remplace les examens médicaux en présentiel. Selon elle, si l'IA peut fournir des réponses rapides, elle ne peut se substituer à l'examen physique, à l'évaluation des antécédents médicaux, à la reconnaissance de signes subtils ni à la prise de décisions cliniques fondées sur des preuves. « Les informations fournies par l'IA peuvent être inexactes, trompeuses ou manquer de contexte essentiel », a-t-elle souligné.

D'après les experts, la plupart des chatbots actuels sont basés sur le Large Language Model (LLM), conçu principalement pour créer des conversations naturelles et chercher à plaire aux utilisateurs. De ce fait, l'IA a tendance à acquiescer à la question posée plutôt qu'à la contester ou à poser des questions supplémentaires pour vérifier son exactitude. Par ailleurs, poser des questions peut également induire le chatbot en erreur.

Dans un cas documenté, le chatbot a d'abord mis en garde l'utilisateur contre la réalisation d'une intervention médicale à domicile, avant de lui fournir des instructions détaillées, étape par étape. Selon le Dr Monica Agrawal, experte à l'université Duke, un médecin aurait immédiatement interrompu la conversation plutôt que de continuer à donner des instructions dangereuses.

D'après les chercheurs, l'IA rencontre des difficultés, notamment face à des données limitées ou à de multiples diagnostics possibles. Les experts mettent également en garde contre la vulnérabilité des chatbots face à la désinformation sur Internet. Lors d'une expérience menée en 2024, des chercheurs ont créé une fausse maladie, la « bixonimanie », et ont ensuite publié en ligne une série de documents falsifiés. Quelques semaines plus tard, de nombreux chatbots ont commencé à présenter cette maladie inexistante comme un véritable diagnostic médical.

Bien que l'IA puisse s'avérer utile pour accéder à des connaissances médicales de base, expliquer des publications spécialisées ou servir de première référence avant une consultation médicale, les experts insistent sur le fait que cette technologie ne doit être qu'un outil d'aide à la décision et ne saurait remplacer les professionnels de santé. Les chercheurs appellent également à la mise en place rapide de mécanismes indépendants de réglementation et de vérification afin de garantir la sécurité des utilisateurs.

    Source : https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994