ChatGPT e DeepSeek distorcem dados científicos.

Modelos de IA como ChatGPT e DeepSeek demonstraram ser capazes de distorcer conteúdo científico ao resumi-lo, especialmente na área médica.

Báo Khoa học và Đời sống•08/07/2025

Um grupo de pesquisadores na Alemanha emitiu recentemente um alerta sobre o potencial de viés no uso de chatbots de IA para resumir conteúdo científico. Após analisar 4.900 resumos científicos escritos por humanos, o grupo utilizou diversos modelos de IA para comparar como esses sistemas processavam as informações. Os resultados mostraram que a maioria dos chatbots cometeu o erro de generalização excessiva, mesmo quando solicitados a resumir com precisão.

o que-é-um-chatbot-de-ai.jpg

A IA pode facilmente distorcer o conteúdo ao resumir pesquisas científicas.

Nos experimentos, os modelos de IA cometeram cinco vezes mais erros do que os pesquisadores humanos quando não receberam nenhuma orientação. Mesmo com requisitos claros de precisão, a taxa de erro ainda foi duas vezes maior do que com um resumo padrão. Um membro da equipe de pesquisa comentou: “A generalização pode parecer inofensiva às vezes, mas na verdade altera a natureza da pesquisa original. É um viés sistêmico.”

Notavelmente, as versões mais recentes de chatbots não apenas deixam de resolver o problema, como o agravam. Com sua apresentação fluida e envolvente, os resumos gerados por IA facilmente transmitem uma impressão de confiabilidade, enquanto o conteúdo real é distorcido. Em um caso específico, a DeepSeek alterou a frase "seguro e implementável com sucesso" para "tratamento seguro e eficaz" — uma interpretação que divergiu das conclusões originais do estudo.

Você também pode gostar

A Academia Vietnamita de Ciências Sociais revisa seu trabalho para o primeiro semestre de 2026 e define as tarefas para os seis meses restantes do ano.No dia 2 de julho, em Hanói, a Academia Vietnamita de Ciências Sociais (Academia) realizou uma conferência para analisar seu trabalho durante o primeiro semestre do ano e delinear as principais tarefas para os seis meses restantes de 2026.

Hue ativa plataforma digital que conecta "três partes interessadas": Transformando problemas práticos em uma força motriz para a inovação.Da gestão urbana inteligente e preservação do patrimônio ao desenvolvimento econômico digital, a cidade de Hue enfrenta muitos desafios importantes que exigem soluções. A plataforma digital que conecta os "três atores" (governo, cientistas e empresas), lançada recentemente em Hue, tem o potencial de criar um mecanismo de ligação genuíno entre governo, cientistas e empresas para promover o desenvolvimento.

Foco na pesquisa científica básica.No contexto dos avanços no desenvolvimento da ciência e da tecnologia, a pesquisa científica básica é identificada como o fundamento do conhecimento, uma questão estratégica diretamente relacionada ao modelo de desenvolvimento, à autossuficiência e à posição nacional.

Em outro exemplo, o modelo Llama aplicou recomendações para medicamentos para diabetes a indivíduos jovens sem especificar dosagem, frequência ou efeitos colaterais. Se o leitor, um médico ou profissional de saúde , não verificar as informações no estudo original, esse tipo de resumo pode representar um perigo direto para os pacientes.

Especialistas acreditam que esse fenômeno decorre da forma como os modelos de IA são treinados. Muitos chatbots atuais são treinados usando dados secundários – como notícias científicas produzidas em massa – que já foram simplificadas. À medida que a IA continua a resumir esse conteúdo simplificado, o risco de distorção aumenta.

Especialistas em IA na área da saúde mental argumentam que as barreiras técnicas ao desenvolvimento e uso da IA precisam ser estabelecidas em breve.

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

Os usuários devem ter cautela, pois os chatbots podem distorcer o conteúdo com facilidade.

À medida que os usuários dependem cada vez mais de chatbots de IA para aprender informações científicas, pequenas imprecisões na interpretação podem se acumular e se espalhar rapidamente, levando a concepções errôneas generalizadas. Em um momento em que a confiança na ciência está em declínio, esse risco é particularmente preocupante e exige atenção especial.

Estados Unidos - Vietnã: Não perca

O Ministério das Relações Exteriores recebeu uma cópia das Cartas Credenciais do Embaixador dos EUA no Vietnã.Na tarde de 2 de julho, na sede do Ministério das Relações Exteriores, o Sr. Le Cong Dung, Diretor do Departamento de Protocolo de Estado e Interpretação Estrangeira, recebeu uma cópia das Cartas Credenciais da Sra. Jennifer Wicks, Embaixadora dos Estados Unidos da América no Vietnã.

O embaixador Nguyen Quoc Dung visita e trabalha em Minnesota, EUA.De 28 a 30 de junho, o embaixador vietnamita nos Estados Unidos, Nguyen Quoc Dung, visitou e trabalhou em Minnesota.

O Vietnã incentiva empresas americanas a expandirem seus investimentos em alta tecnologia.Na manhã de 26 de junho, na sede do governo, o vice-primeiro-ministro Ho Quoc Dung recebeu o Sr. Jeff Place, diretor da cadeia de suprimentos do Coherent Group (EUA). Durante a reunião, o vice-primeiro-ministro afirmou que o Vietnã incentiva as empresas americanas a expandirem seus investimentos, especialmente nos setores de alta tecnologia, inovação e semicondutores.

A integração da IA na pesquisa e na disseminação do conhecimento é uma tendência irreversível. No entanto, especialistas afirmam que a tecnologia não pode substituir o papel dos humanos na compreensão e verificação do conteúdo científico. Ao utilizar chatbots em áreas de alto risco, como a saúde, a precisão deve ser priorizada, em vez de focar apenas na fluidez da linguagem ou na velocidade de resposta.

Fonte: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html