Les médecins peuvent être trompés par l'IA.

De nouvelles recherches montrent que les images radiographiques générées par l'IA deviennent de plus en plus réalistes, ce qui les rend difficiles à distinguer des images réelles et représente un risque important pour la santé numérique.

Des paires d'images radiographiques, composées d'images réelles et d'images générées par GPT-4o à différents endroits du corps, démontrent que l'IA peut produire des images médicales très réalistes. (Source : RSNA)

Le 24 mars, une étude réalisée par un groupe de 18 radiologues issus de 12 institutions médicales réparties dans 6 pays (dont les États-Unis, la France, l'Allemagne, la Turquie, le Royaume-Uni et les Émirats arabes unis), dirigée par le Dr Mickael Tordjman, chercheur postdoctoral à l'Icahn School of Medicine, Mount Sinai (New York, États-Unis), a été publiée dans la revue Radiology de la Radiological Society of North America (RSNA).

Des recherches montrent que les images radiographiques générées par l'intelligence artificielle (IA) sont désormais si réalistes que non seulement les humains, mais même les systèmes d'IA avancés ont du mal à les identifier.

Parmi les 264 radiographies utilisées dans l'étude, la moitié étaient réelles et l'autre moitié générées par intelligence artificielle. Les médecins participants ont évalué deux ensembles de données distincts : l'un comprenant des radiographies de différentes régions du corps et l'autre un ensemble de données spécialisé sur les radiographies thoraciques, généré à l'aide de modèles d'IA tels que ChatGPT et RoentGen.

Les résultats ont montré que, sans notification préalable de l'existence d'images falsifiées, les médecins n'identifiaient correctement que 41 % des images générées par l'IA. Une fois alertés, ce taux passait à 75 %. Cependant, la précision variait considérablement d'un individu à l'autre, allant de 58 % à 92 %.

Les systèmes d'IA multimodaux, tout comme les humains, rencontrent des difficultés similaires. Les quatre modèles testés ont atteint des taux de précision allant de 57 % à 85 %. Il est à noter que même le système ayant généré les fausses images n'a pas pu identifier formellement ses propres créations.

Autre constat notable : l’expérience, même longue, n’a pas amélioré la capacité à détecter les images présentant des artefacts. Cependant, les spécialistes en orthopédie ont obtenu de meilleurs résultats que ceux des autres spécialités.

Selon l'équipe de recherche, les images radiographiques erronées présentent souvent des caractéristiques visuelles subtiles telles qu'une structure osseuse trop lisse, une colonne vertébrale anormalement droite, des poumons parfaitement symétriques, des vaisseaux sanguins uniformément répartis et des fractures qui paraissent « trop belles », n'apparaissant souvent que d'un seul côté de l'os.

Cette découverte soulève des inquiétudes quant à la possibilité que de fausses images soient utilisées dans des poursuites judiciaires ou insérées dans les systèmes hospitaliers pour manipuler les diagnostics, perturber la pratique clinique et saper la confiance dans les dossiers médicaux numériques.

Pour atténuer les risques, les chercheurs suggèrent de mettre en œuvre des mesures de sécurité telles que l'intégration de filigranes invisibles dans les images et l'utilisation de signatures cryptographiques liées au photographe pour vérifier l'origine des données.

D'après le Dr Tordjman, ce qui a été observé jusqu'à présent n'est peut-être que la partie émergée de l'iceberg. La prochaine étape de cette technologie pourrait consister à créer des images médicales 3D, comme des images de tomodensitométrie ou d'IRM, grâce à l'intelligence artificielle. Dans ce contexte, la constitution d'ensembles de données d'entraînement et d'outils de détection est aujourd'hui considérée comme essentielle pour garantir la précision des diagnostics médicaux.

Source : https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html