A inteligência artificial está gradualmente se tornando um "médico online".

O rápido desenvolvimento de chatbots de IA, como ChatGPT, Gemini e Claude, está mudando a forma como as pessoas acessam informações médicas . Com apenas algumas perguntas, os usuários podem receber respostas quase instantâneas sobre sintomas, medicamentos, doenças ou saúde mental, sem precisar agendar consultas ou esperar em hospitais.

Uma pesquisa realizada pelo King's College London com mais de 2.000 pessoas no Reino Unido revelou que mais de 15% delas utilizaram chatbots de IA para tirar dúvidas sobre saúde em vez de consultar um clínico geral ou o sistema público de saúde (NHS).

Além das questões físicas, a IA também está sendo usada por muitas pessoas para auxiliar na saúde mental. Aproximadamente 10% dos entrevistados relataram usar chatbots para buscar apoio em saúde mental em vez de profissionais treinados. Especialistas consideram isso um sinal preocupante, já que a IA está se tornando cada vez mais o "primeiro ponto de contato" para muitos problemas de saúde.

Com apenas algumas perguntas, os usuários podem receber respostas quase instantâneas sobre sintomas, medicamentos, doenças ou saúde mental por meio de chatbots de IA. (Imagem: nationalhealthexecutive.com)

Segundo o estudo, a conveniência é o motivo mais comum pelo qual as pessoas recorrem à IA. Quase metade dos participantes afirmou que os chatbots os ajudam a acessar informações com mais rapidez e facilidade. Muitos outros usam a IA por curiosidade sobre novas tecnologias ou porque não têm certeza se sua condição é grave o suficiente para exigir a consulta a um médico.

O professor Graham Lord, autor principal do estudo, observou que a proliferação de chatbots está criando um “sistema de saúde baseado em IA que não é regulamentado em paralelo com o sistema público de saúde”. Segundo ele, a IA está mudando rapidamente a forma como as pessoas acessam os serviços de saúde, mas isso traz consigo grandes problemas relacionados à confiabilidade, segurança e responsabilidade.

Essa tendência não se limita ao Reino Unido; ela também está crescendo rapidamente em muitos países. Nos EUA, uma pesquisa do West Health-Gallup Center sobre saúde, envolvendo aproximadamente 5.600 adultos, revelou que uma em cada quatro pessoas usa chatbots para buscar informações ou conselhos relacionados à saúde. Cerca de 14% relataram que não consultaram um médico após receberem informações de inteligência artificial.

Riscos imprevistos

Juntamente com sua crescente popularidade, surgem diversos alertas sobre os riscos imprevisíveis de conselhos incorretos ou perigosos fornecidos por chatbots de IA. Muitos estudos recentes mostram que os chatbots de IA podem, de fato, fornecer diagnósticos imprecisos ou conselhos potencialmente prejudiciais aos usuários, especialmente em situações médicas complexas ou com falta de dados.

Em um estudo publicado no JAMA Network Open por uma equipe de autores do sistema de saúde Mass General Brigham, cientistas pediram a 21 modelos de IA que "desempenhassem o papel de médicos" para lidar com situações médicas hipotéticas. Os resultados mostraram que os chatbots frequentemente chegavam a conclusões precipitadas em vez de manter a dúvida e continuar a análise como médicos de verdade. O estudo revelou que esses chatbots diagnosticaram incorretamente 80% dos casos.

Entretanto, os resultados de outro estudo publicado no BMJ Open, que testou cinco chatbots de IA com 250 perguntas relacionadas a câncer, vacinas, nutrição e outros tópicos de saúde suscetíveis à desinformação, mostraram que a taxa de respostas corretas foi de pouco mais de 50%, enquanto cerca de 20% das respostas incorretas foram consideradas potencialmente prejudiciais se seguidas. Nicholas Tiller, coautor do estudo, afirmou que o mais preocupante é que as IAs frequentemente respondem com um alto grau de confiança, mesmo quando erradas. "Se alguém seguir esse conselho, há uma grande chance de sofrer danos", disse ele.

A questão mais preocupante é que muitas pessoas estão começando a ver os chatbots como médicos de verdade. De acordo com uma pesquisa do King's College London, cerca de 20% das pessoas que usaram IA disseram que a resposta do chatbot as fez pensar que não precisavam consultar um médico ou profissional de saúde. Quase um quarto delas afirmou ter desistido de ir ao médico depois de ler a resposta da IA.

Esses números levaram especialistas a temer que a IA possa aumentar a taxa de atrasos no tratamento ou de automedicação sem orientação médica.

A professora Victoria Tzortziou Brown, presidente do Royal College of General Practitioners no Reino Unido, alertou que seria "extremamente preocupante" se as pessoas utilizassem IA em vez de exames médicos presenciais. Segundo ela, a IA pode fornecer respostas rápidas, mas não pode substituir exames físicos, avaliação do histórico médico, reconhecimento de sinais sutis ou tomada de decisões clínicas baseadas em evidências. "As informações fornecidas pela IA podem ser imprecisas, enganosas ou carecer de contexto crucial", enfatizou.

Segundo especialistas, a maioria dos chatbots atuais é construída com base no Modelo de Linguagem Ampla (LLM, na sigla em inglês), projetado principalmente para criar conversas naturais e tende a "agradar" os usuários. Isso faz com que a IA tenda a concordar com quem faz a pergunta, em vez de argumentar ou fazer mais perguntas para verificar a precisão. Além disso, fazer perguntas também pode levar o chatbot a conclusões errôneas.

Em um caso documentado, o chatbot inicialmente alertou o usuário sobre os riscos de realizar um procedimento médico em casa, mas em seguida passou a fornecer instruções detalhadas, passo a passo. De acordo com a Dra. Monica Agrawal, especialista da Universidade Duke, um médico de verdade teria encerrado a conversa imediatamente, em vez de continuar a dar instruções perigosas.

Segundo pesquisadores, a IA enfrenta dificuldades principalmente em situações com dados limitados ou múltiplos diagnósticos possíveis. Especialistas também alertam que os chatbots de IA são vulneráveis ​​à desinformação na internet. Em um experimento de 2024, pesquisadores criaram uma doença fictícia chamada "bixonimania" e, em seguida, publicaram uma série de documentos falsos online. Poucas semanas depois, muitos chatbots começaram a citar essa doença inexistente como um diagnóstico médico real.

Embora a IA possa ser uma ferramenta útil para acessar conhecimentos médicos básicos, explicar literatura especializada ou servir como referência inicial antes de uma consulta médica, especialistas enfatizam que essa tecnologia deve ser apenas uma ferramenta de apoio e não pode substituir os profissionais de saúde. Pesquisadores também defendem o estabelecimento precoce de mecanismos independentes de regulamentação e verificação para garantir a segurança do usuário.

    Fonte: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994