Un grupo de investigadores alemanes advirtió recientemente sobre el posible sesgo en el uso de chatbots de IA para resumir el contenido de las investigaciones. Tras analizar 4900 resúmenes científicos escritos por humanos, el grupo utilizó diversos modelos de IA para comparar cómo estos sistemas procesaban la información. Los resultados mostraron que la mayoría de los chatbots cometían el error de generalizar en exceso, incluso cuando se les pedía que resumieran con precisión.
ChatGPT y DeepSeek distorsionan los datos científicos.
Se ha descubierto que los modelos de IA como ChatGPT y DeepSeek son capaces de distorsionar el contenido científico al resumirlo, especialmente en el campo de la medicina.
La IA puede distorsionar fácilmente el contenido al resumir investigaciones científicas.
En los experimentos, los modelos de IA cometieron cinco veces más errores que los investigadores humanos cuando no recibieron ninguna guía. Incluso con requisitos claros de precisión, la tasa de error seguía siendo el doble que con un resumen estándar. Un miembro del equipo de investigación comentó: «La generalización puede parecer inofensiva a veces, pero en realidad altera la naturaleza de la investigación original. Es un sesgo sistémico».
Cabe destacar que las versiones más recientes de los chatbots no solo no solucionan el problema, sino que lo agravan. Gracias a su presentación fluida y atractiva, los resúmenes generados por IA dan una impresión de fiabilidad, mientras que el contenido real se distorsiona. En un caso, DeepSeek cambió la frase «seguro y de fácil implementación» por «tratamiento seguro y eficaz», una interpretación que se apartaba de las conclusiones originales del estudio.
En otro ejemplo, el modelo Llama aplicó recomendaciones sobre medicamentos para la diabetes a sujetos jóvenes sin especificar la dosis, la frecuencia ni los efectos secundarios. Si el lector, un médico o profesional de la salud , no verifica la información con el estudio original, este tipo de resúmenes podrían representar un peligro directo para los pacientes.
Los expertos creen que este fenómeno se debe a la forma en que se entrenan los modelos de IA. Muchos chatbots actuales se entrenan con datos secundarios, como noticias científicas de gran difusión, que ya han sido simplificados. A medida que la IA continúa resumiendo este contenido simplificado, aumenta el riesgo de distorsión.
Los expertos en inteligencia artificial aplicados a la salud mental sostienen que es necesario establecer pronto las barreras técnicas para el desarrollo y el uso de la IA.
Los usuarios deben tener cuidado, ya que los chatbots pueden distorsionar fácilmente el contenido.
A medida que los usuarios recurren cada vez más a los chatbots de IA para obtener información científica, las pequeñas imprecisiones en la interpretación pueden acumularse y propagarse rápidamente, dando lugar a ideas erróneas generalizadas. En un momento en que la confianza en la ciencia está disminuyendo, este riesgo resulta especialmente preocupante y requiere la debida atención.
La integración de la IA en la investigación y la difusión del conocimiento es una tendencia irreversible. Sin embargo, los expertos afirman que la tecnología no puede reemplazar el papel de los humanos en la comprensión y verificación del contenido científico. Al utilizar chatbots en campos de alto riesgo, como la atención médica, se debe priorizar la precisión, en lugar de centrarse únicamente en una experiencia lingüística fluida o en la velocidad de respuesta.
Fuente: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html


Tecnología desde el corazón

Realizando movimientos de baile enérgicos y hermosos en el programa "Baile deportivo: por un Vietnam saludable 2026".







