A IA torna os médicos menos responsáveis

Durante anos, especialistas médicos e empresas têm divulgado os potenciais benefícios da IA na medicina, desde a melhoria de imagens até a superação de médicos em diagnósticos.

No entanto, um novo estudo descobriu que, em apenas alguns meses, os médicos que usam IA regularmente apresentam desempenho significativamente pior no diagnóstico de doenças.

Este é o estudo mais recente a demonstrar os perigos dos usuários se tornarem viciados nessa tecnologia. Um estudo anterior do Instituto de Tecnologia de Massachusetts (MIT) constatou que o ChatGPT prejudica as habilidades de pensamento crítico.

Falta de motivação, falta de foco e irresponsabilidade

Uma pesquisa publicada no periódico Lancet Gastroenterology and Hepatology descobriu que, em seis meses, os médicos passaram a confiar demais nas recomendações de IA.

Respondendo à pesquisa, esses médicos admitiram que eles próprios se tornaram menos motivados, menos focados e menos responsáveis ao tomar decisões cognitivas sem o suporte da IA.

Para demonstrar isso, pesquisadores de diversas instituições na Europa conduziram um estudo observacional em quatro centros de endoscopia na Polônia participantes do programa IA em Colonoscopia para Prevenção do Câncer (ACCEPT).

Como parte do teste, desde o final de 2021, esses centros têm usado ferramentas de IA para detectar pólipos, tumores que podem ser benignos ou cancerígenos.

O estudo incluiu 1.443 colonoscopias não assistidas por IA, de um total de 2.177 realizadas entre setembro de 2021 e março de 2022. As colonoscopias foram realizadas por 19 endoscopistas experientes.

Os pesquisadores então compararam a qualidade das colonoscopias realizadas três meses antes e depois da implementação da IA. As colonoscopias foram aleatoriamente designadas para serem realizadas com ou sem auxílio da IA.

Em apenas seis meses, os médicos passaram a depender excessivamente das recomendações da IA. Ilustração fotográfica: national_cancer_institute.

Como resultado, das cirurgias realizadas sem auxílio de IA, 795 foram realizadas antes do uso rotineiro da IA. Após a aplicação das ferramentas de IA, apenas 648 cirurgias foram realizadas.

Três meses antes da introdução da IA, a taxa de detecção de adenoma (TDA) era de aproximadamente 28%. Três meses após a introdução da IA, essa taxa caiu para apenas 22%. A TDA é um indicador de qualidade comum para colonoscopia. Quanto maior a TDA, menor o risco de câncer colorretal.

Em última análise, o estudo constatou que a IA ajudou os endoscopistas a fazer diagnósticos melhores quando utilizada. No entanto, assim que a assistência dessa tecnologia foi removida, as habilidades de diagnóstico dos médicos se deterioraram imediatamente.

Os pesquisadores dizem que isso se deve a “uma tendência humana natural de confiar demais” nas recomendações de sistemas de suporte à decisão, como a IA.

Marcin Romańczyk, coautor do estudo, chama isso de efeito Google Maps. "Estamos tentando chegar a algum lugar e não conseguimos usar um mapa comum. É a mesma coisa", diz Romańczyk.

Uma palavra de advertência

Omer Ahmad, gastroenterologista do University College London Hospital, acredita que a exposição à IA pode ter prejudicado os hábitos de busca visual e os padrões de atenção dos médicos, que são cruciais para detectar pólipos.

“Em essência, confiar na IA para detecção pode ofuscar o reconhecimento de padrões humanos”, disse Ahmad, acrescentando que se preocupa que o uso frequente da IA possa “minar a confiança no diagnóstico” sem a assistência da IA.

Outros especialistas são mais cautelosos ao tirar conclusões de um único estudo. Venet Osmani, professor de IA clínica e aprendizado de máquina na Queen Mary University of London, afirmou que o número total de colonoscopias aumentou ao longo do estudo, o que pode ter levado à fadiga dos médicos, resultando em taxas de detecção mais baixas.

Enquanto isso, Allan Tucker, professor de inteligência artificial na Universidade Brunel de Londres, observou que, com a ajuda da IA, o desempenho dos médicos melhorou em geral.

Preocupações sobre as habilidades dos médicos serem prejudicadas pela automação "não são exclusivas dos sistemas de IA e são um risco ao introduzir qualquer nova tecnologia", disse Tucker.

Em apenas alguns segundos, o AlphaFold consegue prever a estrutura de todas as proteínas do corpo humano. Isso traz enormes benefícios para o tratamento médico. Foto: DeepMind.

Atualmente, cerca de 52% dos hospitais em todo o mundo implementaram a tecnologia de IA em graus variados. Nos EUA, cerca de 75% dos hospitais estão usando soluções baseadas em IA para melhorar a eficiência operacional e o atendimento ao paciente.

Espera-se que o tamanho do mercado global de IA na área da saúde cresça de US$ 28 bilhões em 2024 para US$ 188 bilhões até 2030.

Esse crescimento ocorre em um momento considerado um ponto de virada para o setor de saúde, já que a tendência de envelhecimento da população tem um forte impacto nas necessidades de saúde das pessoas.

A Organização Mundial da Saúde (OMS) estima que o mundo terá uma escassez de cerca de 10 milhões de médicos, enfermeiros e profissionais de saúde até 2030. Ao mesmo tempo, a demanda por serviços de saúde aumentará.

Naquela época, a IA será a solução para ajudar instalações médicas ao redor do mundo a superar desafios e melhorar a qualidade e a eficiência dos exames e tratamentos médicos.

Fonte: https://znews.vn/ai-khien-bac-si-thieu-trach-nhiem-hon-post1576844.html