La IA se está convirtiendo gradualmente en un "médico en línea".

El rápido desarrollo de chatbots con IA como ChatGPT, Gemini y Claude está transformando la forma en que las personas acceden a la información médica . Con tan solo unas pocas preguntas, los usuarios pueden recibir respuestas casi instantáneas sobre síntomas, medicamentos, enfermedades o salud mental, sin necesidad de programar citas ni esperar en hospitales.

Una encuesta realizada por el King's College de Londres a más de 2.000 personas en el Reino Unido reveló que más del 15% había utilizado chatbots de IA para preguntar sobre problemas de salud en lugar de consultar a un médico de cabecera o al sistema público de salud del NHS.

Más allá de los problemas físicos, muchas personas también utilizan la IA para cuidar su salud mental. Aproximadamente el 10 % de los encuestados afirmó usar chatbots para buscar apoyo psicológico en lugar de profesionales capacitados. Los expertos consideran esto una señal preocupante, ya que la IA se está convirtiendo cada vez más en la primera opción para muchos problemas de salud.

Con tan solo unas pocas preguntas, los usuarios pueden recibir respuestas casi instantáneas sobre síntomas, medicamentos, enfermedades o salud mental de chatbots con inteligencia artificial. (Imagen: nationalhealthexecutive.com)

Según el estudio, la comodidad es la razón más común por la que las personas recurren a la IA. Casi la mitad de los participantes afirmó que los chatbots les ayudan a acceder a la información de forma más rápida y sencilla. Muchos otros utilizan la IA por curiosidad sobre las nuevas tecnologías o porque no están seguros de si su afección es lo suficientemente grave como para requerir la atención de un médico.

El profesor Graham Lord, autor principal del estudio, señaló que la proliferación de chatbots está creando un "sistema de atención médica basado en IA que no está regulado en paralelo con el sistema de salud pública". Según él, la IA está cambiando rápidamente la forma en que las personas acceden a la atención médica, pero esto conlleva importantes problemas relacionados con la fiabilidad, la seguridad y la rendición de cuentas.

Esta tendencia no se limita al Reino Unido; también está aumentando rápidamente en muchos países. En Estados Unidos, una encuesta realizada por el Centro West Health-Gallup sobre atención médica, en la que participaron aproximadamente 5600 adultos, reveló que una de cada cuatro personas utiliza chatbots para buscar información o consejos relacionados con la salud. Alrededor del 14 % declaró no haber consultado a un médico tras recibir información de inteligencia artificial.

Riesgos imprevistos

Junto con su creciente popularidad, surgen numerosas advertencias sobre los riesgos impredecibles de los consejos incorrectos o peligrosos que ofrecen los chatbots de IA. Muchos estudios recientes demuestran que los chatbots de IA pueden, en efecto, proporcionar diagnósticos inexactos o consejos potencialmente dañinos a los usuarios, especialmente en situaciones médicas complejas o cuando faltan datos.

En un estudio publicado en JAMA Network Open por un equipo de autores del sistema de salud Mass General Brigham, los científicos pidieron a 21 modelos de IA que "desempeñaran el papel de médicos" para manejar situaciones médicas hipotéticas. Los resultados mostraron que los chatbots a menudo sacaban conclusiones precipitadas en lugar de mantener la duda y continuar analizando como lo harían los médicos reales. El estudio reveló que estos chatbots diagnosticaron erróneamente el 80% de los casos.

Mientras tanto, los resultados de otro estudio publicado en BMJ Open, que puso a prueba cinco chatbots de IA con 250 preguntas relacionadas con el cáncer, las vacunas, la nutrición y otros temas de salud susceptibles de desinformación, mostraron que la tasa de respuestas correctas fue de poco más del 50%, mientras que alrededor del 20% de las respuestas incorrectas se consideraron potencialmente dañinas si se seguían. Nicholas Tiller, coautor del estudio, afirmó que lo más preocupante es que las IA suelen responder con un alto grado de seguridad incluso cuando se equivocan. "Si alguien sigue ese consejo, hay una alta probabilidad de que sufra daños", declaró.

Lo más preocupante es que muchas personas están empezando a ver a los chatbots como médicos reales. Según una encuesta del King's College de Londres, alrededor del 20 % de las personas que han utilizado IA afirmaron que la respuesta del chatbot les hizo pensar que no necesitaban consultar a un médico o profesional sanitario. Casi una cuarta parte incluso declaró haber decidido no ir al médico tras leer la respuesta de la IA.

Estas cifras han llevado a los expertos a temer que la IA pueda aumentar la tasa de retrasos en los tratamientos o de automedicación sin la supervisión de un médico.

La profesora Victoria Tzortziou Brown, presidenta del Real Colegio de Médicos de Familia del Reino Unido, advirtió que sería "seriamente preocupante" que la gente utilizara la IA en lugar de las consultas médicas presenciales. Según ella, la IA puede proporcionar respuestas rápidas, pero no puede sustituir las exploraciones físicas, la evaluación del historial clínico, el reconocimiento de signos sutiles ni la toma de decisiones clínicas basadas en la evidencia. "La información que proporciona la IA puede ser inexacta, engañosa o carecer de contexto crucial", recalcó.

Según los expertos, la mayoría de los chatbots actuales se basan en el Modelo de Lenguaje Grande (LLM), diseñado principalmente para generar conversaciones naturales y con el fin de complacer a los usuarios. Esto provoca que la IA tienda a estar de acuerdo con quien pregunta, en lugar de debatir o hacer preguntas adicionales para verificar la información. Además, hacer preguntas también puede llevar al chatbot por mal camino.

En un caso documentado, el chatbot advirtió inicialmente al usuario que no realizara un procedimiento médico en casa, pero luego procedió a proporcionar instrucciones detalladas paso a paso. Según la Dra. Monica Agrawal, experta de la Universidad de Duke, un médico real habría finalizado la conversación de inmediato en lugar de seguir dando instrucciones peligrosas.

Según los investigadores, la IA tiene dificultades, especialmente en situaciones con datos limitados o múltiples diagnósticos posibles. Los expertos también advierten que los chatbots de IA son vulnerables a la desinformación en internet. En un experimento de 2024, los investigadores crearon una enfermedad ficticia llamada "bixonimanía" y publicaron una serie de documentos falsificados en línea. Semanas después, muchos chatbots comenzaron a citar esta enfermedad inexistente como un diagnóstico médico real.

Si bien la IA puede ser una herramienta útil para acceder a conocimientos médicos básicos, explicar literatura especializada o servir como referencia inicial antes de una consulta médica, los expertos enfatizan que esta tecnología debe ser solo una herramienta de apoyo y no puede reemplazar a los profesionales médicos. Los investigadores también abogan por el establecimiento temprano de mecanismos independientes de regulación y verificación para garantizar la seguridad del usuario.

    Fuente: https://www.qdnd.vn/y-te/cac-van-de/tu-van-y-te-bang-ai-tiem-an-rui-ro-kho-luong-1039994