Los médicos pueden ser engañados por la IA.

Nuevas investigaciones demuestran que las imágenes de rayos X generadas por IA son cada vez más realistas, lo que dificulta distinguirlas de las imágenes de la vida real y supone un riesgo significativo para la atención médica digital.

Las imágenes de rayos X comparadas, que incluyen imágenes reales e imágenes generadas por GPT-4o en diferentes partes del cuerpo, demuestran que la IA puede producir imágenes médicas de gran realismo. (Fuente: RSNA)

El 24 de marzo, un estudio realizado por un grupo de 18 radiólogos de 12 instituciones médicas en 6 países (incluidos EE. UU., Francia, Alemania, Turquía, Reino Unido y Emiratos Árabes Unidos), dirigido por el Dr. Mickael Tordjman, investigador postdoctoral de la Escuela de Medicina Icahn, Mount Sinai (Nueva York, EE. UU.), fue publicado en la revista Radiology de la Sociedad Radiológica de Norteamérica (RSNA).

Las investigaciones demuestran que las imágenes de rayos X generadas por inteligencia artificial (IA) son ahora tan realistas que no solo los humanos, sino incluso los sistemas de IA más avanzados, tienen dificultades para identificarlas.

De las 264 imágenes de rayos X utilizadas en el estudio, la mitad eran reales y la otra mitad generadas por IA. Los médicos participantes evaluaron dos conjuntos de datos distintos, que incluían múltiples regiones corporales y un conjunto de datos especializado de radiografías de tórax, generados mediante modelos de IA como ChatGPT y RoentGen.

Los resultados mostraron que, sin notificación previa de la existencia de imágenes falsas, los médicos identificaron correctamente solo el 41 % de las imágenes generadas por IA. Al ser alertados, este porcentaje aumentó al 75 %. Sin embargo, la precisión varió significativamente entre los individuos, oscilando entre el 58 % y el 92 %.

No solo los humanos, sino también los sistemas de IA multimodal se enfrentan a dificultades similares. Los cuatro modelos probados alcanzaron tasas de precisión que oscilaron entre el 57 % y el 85 %. Cabe destacar que incluso el sistema encargado de crear las imágenes falsas no pudo identificar completamente sus propias creaciones.

Otro hallazgo destacable es que los años de experiencia no mejoraron la capacidad para detectar imágenes con artefactos. Sin embargo, los especialistas en ortopedia obtuvieron mejores resultados que los de otras especialidades.

Según el equipo de investigación, las imágenes de rayos X erróneas suelen presentar características visuales sutiles, como una estructura ósea excesivamente lisa, una columna vertebral anormalmente recta, pulmones perfectamente simétricos, vasos sanguíneos distribuidos uniformemente y fracturas que parecen "demasiado bonitas", a menudo apareciendo solo en un lado del hueso.

Este descubrimiento suscita preocupación ante la posibilidad de que se utilicen imágenes falsas en demandas judiciales o se inserten en los sistemas hospitalarios para manipular diagnósticos, perturbar la práctica clínica y socavar la confianza en los historiales médicos digitales.

Para mitigar los riesgos, los investigadores sugieren implementar medidas de seguridad como la inserción de marcas de agua invisibles en las imágenes y el uso de firmas criptográficas vinculadas al fotógrafo para verificar el origen de los datos.

Según el Dr. Tordjman, lo observado hasta ahora podría ser solo la punta del iceberg. El siguiente paso en esta tecnología podría ser la creación de imágenes médicas en 3D, como tomografías computarizadas o resonancias magnéticas, mediante inteligencia artificial. En este contexto, la creación de conjuntos de datos de entrenamiento y herramientas de detección se considera ahora un requisito fundamental para garantizar la precisión de los diagnósticos médicos.

Fuente: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html