Os médicos podem ser enganados pela IA.

Uma nova pesquisa mostra que as imagens de raio-X geradas por IA estão se tornando cada vez mais realistas, dificultando a distinção entre elas e as imagens da vida real e representando um risco significativo para a saúde digital.

Imagens de raios X pareadas, compostas por imagens reais e imagens geradas pelo GPT-4o em diferentes locais do corpo, demonstram que a IA pode produzir imagens médicas altamente realistas. (Fonte: RSNA)

Em 24 de março, um estudo realizado por um grupo de 18 radiologistas de 12 instituições médicas em 6 países (incluindo EUA, França, Alemanha, Turquia, Reino Unido e Emirados Árabes Unidos), liderado pelo Dr. Mickael Tordjman, pesquisador de pós-doutorado na Icahn School of Medicine, Mount Sinai (Nova York, EUA), foi publicado no periódico Radiology da Sociedade Radiológica da América do Norte (RSNA).

Pesquisas mostram que as imagens de raios X geradas por inteligência artificial (IA) são agora tão realistas que não só os humanos, mas até mesmo sistemas avançados de IA, estão tendo dificuldade em identificá-las.

Das 264 imagens de raios X utilizadas no estudo, metade era real e metade foi gerada por IA. Os médicos participantes avaliaram dois conjuntos de dados distintos, incluindo múltiplas regiões do corpo e um conjunto de dados especializado de raios X do tórax, gerado utilizando modelos de IA como ChatGPT e RoentGen.

Os resultados mostraram que, sem notificação prévia da existência de imagens falsas, os médicos identificaram corretamente apenas 41% das imagens geradas por IA. Quando alertados, essa taxa aumentou para 75%. No entanto, a precisão variou significativamente entre os indivíduos, oscilando entre 58% e 92%.

Não apenas os humanos, mas também os sistemas de IA multimodais enfrentam dificuldades semelhantes. Os quatro modelos testados alcançaram taxas de precisão que variaram de 57% a 85%. Notavelmente, nem mesmo o sistema envolvido na criação das imagens falsas conseguiu identificar completamente suas próprias criações.

Outra descoberta notável é que anos de experiência não melhoraram a capacidade de detectar imagens com artefatos. No entanto, os especialistas em ortopedia tiveram um desempenho melhor do que os de outras especialidades.

Segundo a equipe de pesquisa, imagens de raios X falsas frequentemente apresentam características visuais sutis, como estrutura óssea excessivamente lisa, coluna vertebral anormalmente reta, pulmões perfeitamente simétricos, vasos sanguíneos distribuídos uniformemente e fraturas que parecem "bonitas demais", muitas vezes aparecendo apenas em um lado do osso.

A descoberta levanta preocupações de que imagens falsas possam ser usadas em processos judiciais ou inseridas em sistemas hospitalares para manipular diagnósticos, perturbar a prática clínica e minar a confiança nos registros médicos digitais.

Para mitigar os riscos, os pesquisadores sugerem a implementação de medidas de segurança, como a incorporação de marcas d'água invisíveis nas imagens e o uso de assinaturas criptográficas vinculadas ao fotógrafo para verificar a origem dos dados.

Segundo o Dr. Tordjman, o que foi observado até agora pode ser apenas a ponta do iceberg. O próximo passo nessa tecnologia poderá ser a criação de imagens médicas em 3D, como tomografias computadorizadas ou ressonâncias magnéticas, utilizando inteligência artificial. Nesse contexto, a construção de conjuntos de dados de treinamento e ferramentas de detecção é considerada um requisito fundamental para garantir a precisão dos diagnósticos médicos.

Fonte: https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html