ChatGPT y DeepSeek distorsionan los datos científicos.

Un grupo de investigadores alemanes advirtió recientemente sobre el posible sesgo en el uso de chatbots de IA para resumir el contenido de las investigaciones. Tras analizar 4900 resúmenes científicos escritos por humanos, el grupo utilizó diversos modelos de IA para comparar cómo estos sistemas procesaban la información. Los resultados mostraron que la mayoría de los chatbots cometían el error de generalizar en exceso, incluso cuando se les pedía que resumieran con precisión.

¿Qué es un chatbot de IA?

La IA puede distorsionar fácilmente el contenido al resumir investigaciones científicas.

En los experimentos, los modelos de IA cometieron cinco veces más errores que los investigadores humanos cuando no recibieron ninguna guía. Incluso con requisitos claros de precisión, la tasa de error seguía siendo el doble que con un resumen estándar. Un miembro del equipo de investigación comentó: «La generalización puede parecer inofensiva a veces, pero en realidad altera la naturaleza de la investigación original. Es un sesgo sistémico».

Cabe destacar que las versiones más recientes de los chatbots no solo no solucionan el problema, sino que lo agravan. Gracias a su presentación fluida y atractiva, los resúmenes generados por IA dan una impresión de fiabilidad, mientras que el contenido real se distorsiona. En un caso, DeepSeek cambió la frase «seguro y de fácil implementación» por «tratamiento seguro y eficaz», una interpretación que se apartaba de las conclusiones originales del estudio.

También te puede interesar

Implementación de la Resolución 57: A medida que las empresas vietnamitas comienzan a dominar la tecnología.En la conferencia de revisión del primer año y seis meses de implementación de la Resolución 57 del Politburó, el Secretario General y Presidente To Lam enfatizó que en el período pasado nos hemos centrado en sentar las bases, y en el próximo período debemos centrarnos en pasar decididamente de la construcción de mecanismos a la creación de productos, del cumplimiento de tareas a la creación de valor, y de la preparación de condiciones a la contribución directa al desarrollo nacional.

Hai Phong crea un grupo de trabajo para atraer inversiones en alta tecnología.El gobierno de la ciudad de Hai Phong acaba de decidir crear un grupo de trabajo para atraer inversiones innovadoras y de alta tecnología con el fin de mejorar el entorno empresarial y promover el desarrollo económico sostenible.

Tres soluciones digitales desarrolladas por jóvenes fueron premiadas en el Grab the Future Hackathon 2026.De entre casi 600 propuestas presentadas en todo el país, las tres mejores soluciones tecnológicas para abordar la gestión de residuos urbanos y las barreras de movilidad para las personas con discapacidad se han dado a conocer oficialmente en la final del Grab the Future Hackathon 2026.

En otro ejemplo, el modelo Llama aplicó recomendaciones sobre medicamentos para la diabetes a sujetos jóvenes sin especificar la dosis, la frecuencia ni los efectos secundarios. Si el lector, un médico o profesional de la salud , no verifica la información con el estudio original, este tipo de resúmenes podrían representar un peligro directo para los pacientes.

Los expertos creen que este fenómeno se debe a la forma en que se entrenan los modelos de IA. Muchos chatbots actuales se entrenan con datos secundarios, como noticias científicas de gran difusión, que ya han sido simplificados. A medida que la IA continúa resumiendo este contenido simplificado, aumenta el riesgo de distorsión.

Los expertos en inteligencia artificial aplicados a la salud mental sostienen que es necesario establecer pronto las barreras técnicas para el desarrollo y el uso de la IA.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Los usuarios deben tener cuidado, ya que los chatbots pueden distorsionar fácilmente el contenido.

A medida que los usuarios recurren cada vez más a los chatbots de IA para obtener información científica, las pequeñas imprecisiones en la interpretación pueden acumularse y propagarse rápidamente, dando lugar a ideas erróneas generalizadas. En un momento en que la confianza en la ciencia está disminuyendo, este riesgo resulta especialmente preocupante y requiere la debida atención.

Estados Unidos - Vietnam: No te lo pierdas

El Ministerio de Asuntos Exteriores recibió una copia de las Cartas Credenciales del Embajador de Estados Unidos en Vietnam.En la tarde del 2 de julio, en la sede del Ministerio de Asuntos Exteriores, el Sr. Le Cong Dung, Director del Departamento de Protocolo de Estado e Interpretación Extranjera, recibió una copia de las Cartas Credenciales de la Sra. Jennifer Wicks, Embajadora de los Estados Unidos de América en Vietnam.

El embajador Nguyen Quoc Dung visita y trabaja en Minnesota, Estados Unidos.Del 28 al 30 de junio, el embajador de Vietnam en Estados Unidos, Nguyen Quoc Dung, realizó una visita y trabajó en Minnesota.

Vietnam anima a las empresas estadounidenses a aumentar sus inversiones en alta tecnología.En la mañana del 26 de junio, en la sede del Gobierno, el viceprimer ministro Ho Quoc Dung recibió al Sr. Jeff Place, director de la cadena de suministro de Coherent Group (EE. UU.). Durante la reunión, el viceprimer ministro afirmó que Vietnam alienta a las empresas estadounidenses a aumentar sus inversiones, especialmente en los sectores de alta tecnología, innovación y semiconductores.

La integración de la IA en la investigación y la difusión del conocimiento es una tendencia irreversible. Sin embargo, los expertos afirman que la tecnología no puede reemplazar el papel de los humanos en la comprensión y verificación del contenido científico. Al utilizar chatbots en campos de alto riesgo, como la atención médica, se debe priorizar la precisión, en lugar de centrarse únicamente en una experiencia lingüística fluida o en la velocidad de respuesta.

Fuente: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html