Un grupo de investigadores alemanes advirtió recientemente sobre el posible sesgo en el uso de chatbots de IA para resumir el contenido de las investigaciones. Tras analizar 4900 resúmenes científicos escritos por humanos, el grupo utilizó diversos modelos de IA para comparar cómo estos sistemas procesaban la información. Los resultados mostraron que la mayoría de los chatbots cometían el error de generalizar en exceso, incluso cuando se les pedía que resumieran con precisión.
ChatGPT y DeepSeek distorsionan los datos científicos.
Se ha descubierto que los modelos de IA como ChatGPT y DeepSeek son capaces de distorsionar el contenido científico al resumirlo, especialmente en el campo de la medicina.
Báo Khoa học và Đời sống•08/07/2025
La IA puede distorsionar fácilmente el contenido al resumir investigaciones científicas.
En los experimentos, los modelos de IA cometieron cinco veces más errores que los investigadores humanos cuando no recibieron ninguna guía. Incluso con requisitos claros de precisión, la tasa de error seguía siendo el doble que con un resumen estándar. Un miembro del equipo de investigación comentó: «La generalización puede parecer inofensiva a veces, pero en realidad altera la naturaleza de la investigación original. Es un sesgo sistémico».
Cabe destacar que las versiones más recientes de los chatbots no solo no solucionan el problema, sino que lo agravan. Gracias a su presentación fluida y atractiva, los resúmenes generados por IA dan una impresión de fiabilidad, mientras que el contenido real se distorsiona. En un caso, DeepSeek cambió la frase «seguro y de fácil implementación» por «tratamiento seguro y eficaz», una interpretación que se apartaba de las conclusiones originales del estudio.
También te puede interesar
Por primera vez, Vietnam cuenta con un oficial que ocupa un puesto de alto rango en una misión de mantenimiento de la paz.El Ministerio de Defensa Nacional celebró una ceremonia para presentar las decisiones del Presidente y del Ministro de Defensa Nacional a tres oficiales que prestan servicio en la misión de mantenimiento de la paz de las Naciones Unidas en Sudán del Sur.
Sony dejará de lanzar juegos de PlayStation en formato físico a partir de 2028.Sony dejará de producir nuevos discos de juegos de PlayStation a partir de enero de 2028, lo que supone un cambio significativo hacia la distribución digital.
La provincia de Khanh Hoa toma medidas para proteger su "tesoro" de nidos de salanganas.TP - Gracias a las directrices decisivas del Gobierno, las soluciones coordinadas de las localidades y la participación de las empresas y la comunidad, Khanh Hoa está implementando una campaña integral para proteger a la población de salanganas de la isla de la amenaza de la caza furtiva.
En otro ejemplo, el modelo Llama aplicó recomendaciones sobre medicamentos para la diabetes a sujetos jóvenes sin especificar la dosis, la frecuencia ni los efectos secundarios. Si el lector, un médico o profesional de la salud , no verifica la información con el estudio original, este tipo de resúmenes podrían representar un peligro directo para los pacientes.
Los expertos creen que este fenómeno se debe a la forma en que se entrenan los modelos de IA. Muchos chatbots actuales se entrenan con datos secundarios, como noticias científicas de gran difusión, que ya han sido simplificados. A medida que la IA continúa resumiendo este contenido simplificado, aumenta el riesgo de distorsión.
Los expertos en inteligencia artificial aplicados a la salud mental sostienen que es necesario establecer pronto las barreras técnicas para el desarrollo y el uso de la IA.
Los usuarios deben tener cuidado, ya que los chatbots pueden distorsionar fácilmente el contenido.
A medida que los usuarios recurren cada vez más a los chatbots de IA para obtener información científica, las pequeñas imprecisiones en la interpretación pueden acumularse y propagarse rápidamente, dando lugar a ideas erróneas generalizadas. En un momento en que la confianza en la ciencia está disminuyendo, este riesgo resulta especialmente preocupante y requiere la debida atención.
Fortalecer la amistad entre Vietnam y Estados Unidos.El 3 de julio, en el marco del programa Pacific Partnership - Friends of the Pacific 2026, la delegación del Ejército de los Estados Unidos en el Pacífico, encabezada por el teniente general Joel Vowell, subcomandante del Ejército de los Estados Unidos en el Pacífico, realizó una visita de cortesía al Comando Militar Provincial de Quang Tri.
La delegación del Ejército de Estados Unidos en el Pacífico visita el Comando Militar Provincial de Quang Tri.En 2026, por primera vez, el programa Pacific Partnership-Friends of the Pacific se organizará conjuntamente en Quang Tri, creando un marco de cooperación a gran escala con 25 actividades.
El Ministerio de Asuntos Exteriores recibió una copia de las Cartas Credenciales del Embajador de Estados Unidos en Vietnam.En la tarde del 2 de julio, en la sede del Ministerio de Asuntos Exteriores, el Sr. Le Cong Dung, Director del Departamento de Protocolo de Estado e Interpretación Extranjera, recibió una copia de las Cartas Credenciales de la Sra. Jennifer Wicks, Embajadora de los Estados Unidos de América en Vietnam.
La integración de la IA en la investigación y la difusión del conocimiento es una tendencia irreversible. Sin embargo, los expertos afirman que la tecnología no puede reemplazar el papel de los humanos en la comprensión y verificación del contenido científico. Al utilizar chatbots en campos de alto riesgo, como la atención médica, se debe priorizar la precisión, en lugar de centrarse únicamente en una experiencia lingüística fluida o en la velocidad de respuesta.
Fuente: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html
amanecer
La belleza de ganarse la vida en las lagunas de la antigua capital de Hue.
