ChatGPT e DeepSeek distorcem dados científicos.

Modelos de IA como ChatGPT e DeepSeek demonstraram ser capazes de distorcer conteúdo científico ao resumi-lo, especialmente na área médica.

Báo Khoa học và Đời sống•08/07/2025

Um grupo de pesquisadores na Alemanha emitiu recentemente um alerta sobre o potencial de viés no uso de chatbots de IA para resumir conteúdo científico. Após analisar 4.900 resumos científicos escritos por humanos, o grupo utilizou diversos modelos de IA para comparar como esses sistemas processavam as informações. Os resultados mostraram que a maioria dos chatbots cometeu o erro de generalização excessiva, mesmo quando solicitados a resumir com precisão.

o que-é-um-chatbot-de-ai.jpg

A IA pode facilmente distorcer o conteúdo ao resumir pesquisas científicas.

Nos experimentos, os modelos de IA cometeram cinco vezes mais erros do que os pesquisadores humanos quando não receberam nenhuma orientação. Mesmo com requisitos claros de precisão, a taxa de erro ainda foi duas vezes maior do que com um resumo padrão. Um membro da equipe de pesquisa comentou: “A generalização pode parecer inofensiva às vezes, mas na verdade altera a natureza da pesquisa original. É um viés sistêmico.”

Notavelmente, as versões mais recentes de chatbots não apenas deixam de resolver o problema, como o agravam. Com sua apresentação fluida e envolvente, os resumos gerados por IA facilmente transmitem uma impressão de confiabilidade, enquanto o conteúdo real é distorcido. Em um caso específico, a DeepSeek alterou a frase "seguro e implementável com sucesso" para "tratamento seguro e eficaz" — uma interpretação que divergiu das conclusões originais do estudo.

Você também pode gostar

[GALERIA] Aspirador de colchão com base de esvaziamento automático chama a atenção.O Dreame D20 Aura oferece uma experiência diferenciada de limpeza de colchões com seu compartimento de esvaziamento automático, poder de sucção de 16.000 Pa, secagem com ar quente a 70°C e esterilização UV.

Políticas especiais de incentivo para o desenvolvimento de alta tecnologia e tecnologias estratégicas.O governo emitiu o Decreto 260/2026/ND-CP com diversos mecanismos preferenciais e apoio especial nas áreas de finanças, tributação, recursos humanos e comercialização para promover o desenvolvimento de alta tecnologia e tecnologias estratégicas.

[GALERIA] Rejeitado 143 vezes, estudante de Harvard constrói um império de US$ 10,1 bilhões.Apesar de enfrentar o risco de falência, Will Ahmed perseverou em sua ideia, transformando a Whoop em um império de dispositivos vestíveis avaliado em US$ 10,1 bilhões.

Em outro exemplo, o modelo Llama aplicou recomendações para medicamentos para diabetes a indivíduos jovens sem especificar dosagem, frequência ou efeitos colaterais. Se o leitor, um médico ou profissional de saúde , não verificar as informações no estudo original, esse tipo de resumo pode representar um perigo direto para os pacientes.

Especialistas acreditam que esse fenômeno decorre da forma como os modelos de IA são treinados. Muitos chatbots atuais são treinados usando dados secundários – como notícias científicas produzidas em massa – que já foram simplificadas. À medida que a IA continua a resumir esse conteúdo simplificado, o risco de distorção aumenta.

Especialistas em IA na área da saúde mental argumentam que as barreiras técnicas ao desenvolvimento e uso da IA precisam ser estabelecidas em breve.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Os usuários devem ter cautela, pois os chatbots podem distorcer o conteúdo com facilidade.

À medida que os usuários dependem cada vez mais de chatbots de IA para aprender informações científicas, pequenas imprecisões na interpretação podem se acumular e se espalhar rapidamente, levando a concepções errôneas generalizadas. Em um momento em que a confiança na ciência está em declínio, esse risco é particularmente preocupante e exige atenção especial.

Estados Unidos - Vietnã: Não perca

Fortalecimento da amizade entre o Vietnã e os Estados Unidos.No dia 3 de julho, como parte do programa Parceria do Pacífico - Amigos do Pacífico 2026, a delegação do Exército dos EUA no Pacífico, liderada pelo Tenente-General Joel Vowell, Vice-Comandante do Exército dos EUA no Pacífico, fez uma visita de cortesia ao Comando Militar Provincial de Quang Tri.

A delegação do Exército dos EUA no Pacífico visita o Comando Militar Provincial de Quang Tri.Em 2026, o programa Parceria do Pacífico - Amigos do Pacífico será organizado em conjunto pela primeira vez em Quang Tri, criando uma estrutura de cooperação em larga escala com 25 atividades.

O Ministério das Relações Exteriores recebeu uma cópia das Cartas Credenciais do Embaixador dos EUA no Vietnã.Na tarde de 2 de julho, na sede do Ministério das Relações Exteriores, o Sr. Le Cong Dung, Diretor do Departamento de Protocolo de Estado e Interpretação Estrangeira, recebeu uma cópia das Cartas Credenciais da Sra. Jennifer Wicks, Embaixadora dos Estados Unidos da América no Vietnã.

A integração da IA na pesquisa e na disseminação do conhecimento é uma tendência irreversível. No entanto, especialistas afirmam que a tecnologia não pode substituir o papel dos humanos na compreensão e verificação do conteúdo científico. Ao utilizar chatbots em áreas de alto risco, como a saúde, a precisão deve ser priorizada, em vez de focar apenas na fluidez da linguagem ou na velocidade de resposta.

Fonte: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html