Des experts mettent en garde contre le recours aux conseils médicaux basés sur l'IA.

D'après les recherches, de plus en plus de patients arrivent dans les cliniques avec des décisions déjà prises, souvent basées sur des diagnostics ou des plans de traitement suggérés par des outils d'IA.

Selon un journaliste de VNA à Ottawa, une nouvelle étude montre que l'intelligence artificielle (IA) peut fournir des conseils médicaux convaincants, mais les experts médicaux craignent que la confiance excessive des patients envers l'IA ne les empêche de discuter de leurs problèmes de santé avec des médecins, sans parler des conséquences d'éventuels diagnostics inexacts posés par l'IA.

Les recherches – menées par des scientifiques de l’Université de Colombie-Britannique (UBC) – ont révélé un résultat surprenant : les grands modèles de langage (LLM) comme ChatGPT ne se contentent pas de fournir des informations, mais communiquent également de manière plus convaincante et agréable que les personnes réelles.

Selon Vered Shwartz, professeure agrégée d'informatique à l'Université de la Colombie-Britannique, les conversations avec l'IA semblent parfois plus convaincantes et empreintes d'empathie que les échanges avec de vrais médecins. Les chatbots dotés d'une intonation quasi humaine et s'exprimant avec assurance, les utilisateurs sont plus enclins à se laisser persuader.

Selon l'étude, de plus en plus de patients se présentent dans les cliniques avec des décisions déjà prises, souvent basées sur des diagnostics ou des plans de traitement suggérés par des outils d'IA.

La Dre Cassandra Stiller-Moldovan, médecin de famille à Colwood, en Colombie-Britannique (Canada), a déclaré que les conseils des chatbots d'IA sont souvent corrects, mais ne reflètent pas pleinement le problème, ce qui oblige les médecins à consacrer beaucoup de temps à expliquer et à convaincre les patients.

Le problème est encore aggravé par une autre étude de l'Université de Waterloo (également au Canada) qui a révélé que, lors du diagnostic de problèmes de santé, les chatbots d'IA comme ChatGPT version 4 fournissaient plus de fausses informations que d'informations correctes.

Plus précisément, lorsque les chercheurs ont posé une série de questions ouvertes, seulement 31 % des réponses de ChatGPT ont été jugées entièrement correctes.

L’Association médicale canadienne (AMC) affirme que le recours croissant à l’IA est compréhensible étant donné que de nombreux Canadiens n’ont pas accès à un médecin de famille et doivent attendre longtemps pour obtenir un rendez-vous.

Dans l'attente, beaucoup se sont tournés vers les outils d'IA pour trouver des réponses comme solution alternative.

(TTXVN/Vietnam+)

Source : https://www.vietnamplus.vn/chuyen-gia-khuyen-cao-can-trong-voi-loi-khuyen-y-te-cua-ai-post1069996.vnp