L'IA rend les médecins moins responsables

Depuis des années, les experts médicaux et les entreprises vantent les avantages potentiels de l’IA en médecine, allant de l’amélioration de l’imagerie à la surperformance des médecins en matière de diagnostic.

Cependant, une nouvelle étude a révélé qu’en quelques mois seulement, les médecins qui utilisent régulièrement l’IA ont des résultats nettement moins bons dans le diagnostic des maladies.

Il s'agit de la dernière étude en date démontrant les dangers de la dépendance à cette technologie. Une étude antérieure du Massachusetts Institute of Technology avait révélé que ChatGPT affaiblissait l'esprit critique.

Manque de motivation, manque de concentration et irresponsabilité

Une étude publiée dans la revue Lancet Gastroenterology and Hepatology a révélé qu’en six mois, les cliniciens étaient devenus trop dépendants des recommandations de l’IA.

En réponse à l’enquête, ces médecins ont admis qu’ils étaient eux-mêmes devenus moins motivés, moins concentrés et moins responsables lorsqu’ils prenaient des décisions cognitives sans le soutien de l’IA.

Pour le démontrer, des chercheurs de plusieurs institutions à travers l'Europe ont mené une étude observationnelle dans quatre centres d'endoscopie en Pologne participant au programme AI in Colonoscopy for Cancer Prevention (ACCEPT).

Dans le cadre de l'essai, ces centres utilisent depuis fin 2021 des outils d'IA pour détecter les polypes, des tumeurs qui peuvent être bénignes ou cancéreuses.

L'étude a porté sur 1 443 coloscopies non assistées par IA, sur un total de 2 177 réalisées entre septembre 2021 et mars 2022. Les coloscopies ont été réalisées par 19 endoscopistes expérimentés.

Les chercheurs ont ensuite comparé la qualité des coloscopies réalisées trois mois avant et après la mise en œuvre de l'IA. Les coloscopies ont été randomisées pour être réalisées avec ou sans l'aide de l'IA.

En seulement six mois, les cliniciens sont devenus excessivement dépendants des recommandations de l'IA. Illustration photo : national_cancer_institute.

En conséquence, parmi les interventions chirurgicales réalisées sans l'aide de l'IA, 795 l'ont été avant l'utilisation systématique de l'IA. Après l'application des outils d'IA, seules 648 interventions ont été réalisées.

Trois mois avant l'introduction de l'IA, le taux de détection des adénomes (TDA) était d'environ 28 %. Trois mois après son introduction, ce taux était tombé à seulement 22 %. Le TDA est un indicateur de qualité courant en coloscopie. Plus le TDA est élevé, plus le risque de cancer colorectal est faible.

En fin de compte, l'étude a révélé que l'IA aidait les endoscopistes à établir de meilleurs diagnostics lorsqu'elle était utilisée. Cependant, une fois l'assistance de cette technologie supprimée, les compétences diagnostiques des cliniciens se sont immédiatement détériorées.

Les chercheurs affirment que cela est dû à « une tendance humaine naturelle à trop se fier » aux recommandations des systèmes d’aide à la décision comme l’IA.

Marcin Romańczyk, co-auteur de l'étude, appelle cela l'effet Google Maps. « Nous essayons d'aller quelque part et nous ne pouvons pas utiliser de carte classique. C'est la même chose », explique Romańczyk.

Un mot d'avertissement

Omer Ahmad, gastro-entérologue à l'University College London Hospital, estime que l'exposition à l'IA pourrait avoir altéré les habitudes de recherche visuelle et les schémas d'attention des médecins, qui sont essentiels pour détecter les polypes.

« Essentiellement, s’appuyer sur l’IA pour la détection peut éclipser la reconnaissance des formes humaines », a déclaré Ahmad, ajoutant qu’il craint que l’utilisation fréquente de l’IA puisse « miner la confiance diagnostique » sans l’aide de l’IA.

D'autres experts sont plus prudents quant aux conclusions tirées d'une seule étude. Venet Osmani, professeur d'IA clinique et d'apprentissage automatique à l'Université Queen Mary de Londres, a déclaré que le nombre total de coloscopies avait augmenté au cours de l'étude, ce qui pourrait avoir entraîné une lassitude des cliniciens et, partant, une baisse des taux de détection.

Parallèlement, Allan Tucker, professeur d’intelligence artificielle à l’Université Brunel de Londres, a noté qu’avec l’aide de l’IA, les performances des cliniciens se sont généralement améliorées.

Les inquiétudes concernant l’érosion des compétences des médecins par l’automatisation « ne sont pas propres aux systèmes d’IA et constituent un risque lors de l’introduction de toute nouvelle technologie », a déclaré M. Tucker.

En quelques secondes seulement, AlphaFold peut prédire la structure de toutes les protéines du corps humain. Cela présente d'énormes avantages pour les traitements médicaux. Photo : DeepMind.

Actuellement, environ 52 % des hôpitaux dans le monde ont mis en œuvre l'IA à des degrés divers. Aux États-Unis, environ 75 % des hôpitaux utilisent des solutions basées sur l'IA pour améliorer leur efficacité opérationnelle et la prise en charge des patients.

La taille du marché mondial de l’IA dans le domaine de la santé devrait passer de 28 milliards de dollars en 2024 à 188 milliards de dollars en 2030.

Cette croissance survient à un moment considéré comme un tournant pour le secteur de la santé, car le vieillissement de la population a un fort impact sur les besoins de santé des personnes.

L’Organisation mondiale de la santé (OMS) estime que le monde manquera d’environ 10 millions de médecins, d’infirmières et de professionnels de la santé d’ici 2030. Dans le même temps, la demande de services de soins de santé augmentera.

À cette époque, l’IA sera la solution pour aider les établissements médicaux du monde entier à surmonter les défis et à améliorer la qualité et l’efficacité des examens et des traitements médicaux.

Source : https://znews.vn/ai-khien-bac-si-thieu-trach-nhiem-hon-post1576844.html