I medici possono essere ingannati dall'intelligenza artificiale.

Nuove ricerche dimostrano che le immagini a raggi X generate dall'intelligenza artificiale stanno diventando sempre più realistiche, al punto da essere difficili da distinguere dalle immagini reali e da rappresentare un rischio significativo per la sanità digitale.

Le immagini a raggi X accoppiate, composte da immagini reali e immagini generate da GPT-4o in diverse parti del corpo, dimostrano che l'intelligenza artificiale può produrre immagini mediche estremamente realistiche. (Fonte: RSNA)

Il 24 marzo, uno studio condotto da un gruppo di 18 radiologi provenienti da 12 istituzioni mediche di 6 paesi (tra cui Stati Uniti, Francia, Germania, Turchia, Regno Unito ed Emirati Arabi Uniti), guidato dal dottor Mickael Tordjman, ricercatore post-dottorato presso la Icahn School of Medicine, Mount Sinai (New York, USA), è stato pubblicato sulla rivista Radiology della Radiological Society of North America (RSNA).

Le ricerche dimostrano che le immagini a raggi X generate dall'intelligenza artificiale (IA) sono ormai così realistiche che non solo gli esseri umani, ma persino i sistemi di IA più avanzati, faticano a identificarle.

Delle 264 immagini a raggi X utilizzate nello studio, metà erano reali e metà generate dall'intelligenza artificiale. I medici partecipanti hanno valutato due set di dati separati, comprendenti diverse regioni del corpo e un set di dati specializzato di radiografie del torace, generato utilizzando modelli di intelligenza artificiale come ChatGPT e RoentGen.

I risultati hanno mostrato che, senza preavviso dell'esistenza di immagini false, i medici hanno identificato correttamente solo il 41% delle immagini generate dall'IA. Una volta avvisati, questa percentuale è salita al 75%. Tuttavia, l'accuratezza variava significativamente tra i singoli individui, con valori compresi tra il 58% e il 92%.

Non solo gli esseri umani, ma anche i sistemi di intelligenza artificiale multimodale si trovano ad affrontare difficoltà simili. I quattro modelli testati hanno raggiunto tassi di accuratezza compresi tra il 57% e l'85%. In particolare, persino il sistema coinvolto nella creazione delle immagini false non è stato in grado di identificare completamente le proprie creazioni.

Un altro dato degno di nota è che gli anni di esperienza non hanno migliorato la capacità di rilevare immagini simili ad artefatti. Tuttavia, gli specialisti in ortopedia hanno ottenuto risultati migliori rispetto a quelli di altre specialità.

Secondo il team di ricerca, le immagini radiografiche spurie presentano spesso sottili caratteristiche visive come una struttura ossea eccessivamente liscia, una colonna vertebrale anormalmente dritta, polmoni perfettamente simmetrici, vasi sanguigni distribuiti uniformemente e fratture che appaiono "troppo belle", spesso presenti solo su un lato dell'osso.

La scoperta solleva preoccupazioni sul fatto che le immagini false possano essere utilizzate in cause legali o inserite nei sistemi ospedalieri per manipolare le diagnosi, interrompere la pratica clinica e minare la fiducia nelle cartelle cliniche digitali.

Per mitigare i rischi, i ricercatori suggeriscono di implementare misure di sicurezza come l'inserimento di filigrane invisibili nelle immagini e l'utilizzo di firme crittografiche collegate al fotografo per verificare l'origine dei dati.

Secondo il dottor Tordjman, quanto osservato finora potrebbe essere solo la punta dell'iceberg. Il prossimo passo in questa tecnologia potrebbe essere la creazione di immagini mediche 3D, simili a quelle ottenute con la TAC o la risonanza magnetica, utilizzando l'intelligenza artificiale. In questo contesto, la creazione di set di dati di addestramento e di strumenti di rilevamento è ora considerata un requisito fondamentale per garantire l'accuratezza delle diagnosi mediche.

Fonte: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html