Muitas IAs são excessivamente elogiosas com os usuários.

AI - Ảnh 1. — No campo da IA, "bajulação" refere-se à tendência dos chatbots de concordarem excessivamente com os usuários ou de os elogiarem - Foto: REUTERS

Segundo o SCMP, os principais modelos de inteligência artificial (IA) da China e dos EUA, como DeepSeek, Alibaba e muitos outros grandes nomes, estão se tornando excessivamente "obcecados" — um comportamento que pode afetar negativamente os relacionamentos sociais e a saúde mental dos usuários.

Especificamente, um novo estudo realizado por cientistas da Universidade de Stanford e da Universidade Carnegie Mellon (EUA), publicado no início de outubro, avaliou 11 grandes modelos de linguagem (LLMs) sobre como responder quando os usuários buscam conselhos em situações pessoais, especialmente aquelas que envolvem engano ou manipulação.

Para fornecer um parâmetro humano de comparação, a equipe de pesquisa utilizou postagens da comunidade "Am I The Ahole" no Reddit, onde os usuários compartilham situações de conflito pessoal e pedem à comunidade que avalie quem estava errado.

Os modelos de IA foram testados com esses cenários para verificar se concordariam com a avaliação da comunidade.

Você também pode gostar

A Viettel lança um concurso para a comunidade de entusiastas da IA.As equipes de destaque terão acesso a dados do mundo real, trabalharão diretamente com especialistas e resolverão problemas urgentes nas operações de produção e negócios da Viettel.

Tay Ninh organizará treinamento para aprimorar habilidades em informação comunitária e informação externa em 2026.Na manhã de 3 de julho, o Departamento de Cultura, Esportes e Turismo da província de Tay Ninh organizou uma conferência de treinamento sobre trabalho de informação de base e disseminação de informações externas para 2026, com a participação de mais de 300 funcionários responsáveis pelas áreas de cultura e informação em toda a província.

Aumentar a conscientização e focar na educação sobre direitos autorais na era da IA.Muitos especialistas acreditam que, além de capacitar os alunos com habilidades em IA, deve-se dar mais ênfase à melhoria da educação em direitos autorais e ética digital para os estudantes.

Os resultados mostram que o modelo Qwen2.5-7B-Instruct da Alibaba Cloud é o mais "favorável", acertando em 79% dos casos, mesmo quando a comunidade considerou que o autor da publicação estava errado. O DeepSeek-V3 ficou em segundo lugar, com uma taxa de 76%.

Enquanto isso, o Gemini-1.5 do Google DeepMind apresentou o menor nível de viés, com apenas 18% dos casos contradizendo as avaliações da comunidade.

Pesquisadores alertam que a tendência da IA de "lisonjear" os usuários pode torná-los menos propensos a reconciliações ou a admitir erros em relacionamentos.

Os usuários costumam valorizar e confiar mais em feedbacks elogiosos, o que torna esses modelos mais populares e amplamente utilizados.

"Essas preferências criam um sistema de incentivos tendencioso – os usuários dependem cada vez mais de uma IA que os lisonjeie, e os desenvolvedores tendem a treinar modelos nessa direção" , observou a equipe de pesquisa.

Segundo o professor Jack Jiang, diretor do Laboratório de Avaliação de IA da Escola de Negócios da Universidade de Hong Kong, esse fenômeno também representa riscos para as empresas: "Se um modelo concorda consistentemente com as conclusões de um analista de negócios, isso pode levar a decisões errôneas e inseguras."

Estados Unidos - Vietnã: Não perca

O Ministério das Relações Exteriores recebeu uma cópia das Cartas Credenciais do Embaixador dos EUA no Vietnã.Na tarde de 2 de julho, na sede do Ministério das Relações Exteriores, o Sr. Le Cong Dung, Diretor do Departamento de Protocolo de Estado e Interpretação Estrangeira, recebeu uma cópia das Cartas Credenciais da Sra. Jennifer Wicks, Embaixadora dos Estados Unidos da América no Vietnã.

O embaixador Nguyen Quoc Dung visita e trabalha em Minnesota, EUA.De 28 a 30 de junho, o embaixador vietnamita nos Estados Unidos, Nguyen Quoc Dung, visitou e trabalhou em Minnesota.

O Vietnã incentiva empresas americanas a expandirem seus investimentos em alta tecnologia.Na manhã de 26 de junho, na sede do governo, o vice-primeiro-ministro Ho Quoc Dung recebeu o Sr. Jeff Place, diretor da cadeia de suprimentos do Coherent Group (EUA). Durante a reunião, o vice-primeiro-ministro afirmou que o Vietnã incentiva as empresas americanas a expandirem seus investimentos, especialmente nos setores de alta tecnologia, inovação e semicondutores.

A questão da "adulação" da IA ganhou destaque pela primeira vez em abril de 2025, quando a atualização do ChatGPT da OpenAI foi considerada excessivamente polida e condescendente com todas as opiniões dos usuários.

A OpenAI reconheceu posteriormente que isso poderia afetar a saúde mental e se comprometeu a aprimorar seu processo de revisão antes de lançar novas versões.

CORAÇÃO E YANG

Fonte: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm