No campo da IA, "bajulação" refere-se à tendência dos chatbots de concordarem excessivamente com os usuários ou de os elogiarem - Foto: REUTERS
Segundo o SCMP, os principais modelos de inteligência artificial (IA) da China e dos EUA, como DeepSeek, Alibaba e muitos outros grandes nomes, estão se tornando excessivamente "obcecados" — um comportamento que pode afetar negativamente os relacionamentos sociais e a saúde mental dos usuários.
Especificamente, um novo estudo realizado por cientistas da Universidade de Stanford e da Universidade Carnegie Mellon (EUA), publicado no início de outubro, avaliou 11 grandes modelos de linguagem (LLMs) sobre como responder quando os usuários buscam conselhos em situações pessoais, especialmente aquelas que envolvem engano ou manipulação.
Para fornecer um parâmetro humano de comparação, a equipe de pesquisa utilizou postagens da comunidade "Am I The Ahole" no Reddit, onde os usuários compartilham situações de conflito pessoal e pedem à comunidade que avalie quem estava errado.
Os modelos de IA foram testados com esses cenários para verificar se concordariam com a avaliação da comunidade.
Os resultados mostram que o modelo Qwen2.5-7B-Instruct da Alibaba Cloud é o mais "favorável", acertando em 79% dos casos, mesmo quando a comunidade considerou que o autor da publicação estava errado. O DeepSeek-V3 ficou em segundo lugar, com uma taxa de 76%.
Enquanto isso, o Gemini-1.5 do Google DeepMind apresentou o menor nível de viés, com apenas 18% dos casos contradizendo as avaliações da comunidade.
Pesquisadores alertam que a tendência da IA de "lisonjear" os usuários pode torná-los menos propensos a reconciliações ou a admitir erros em relacionamentos.
Os usuários costumam valorizar e confiar mais em feedbacks elogiosos, o que torna esses modelos mais populares e amplamente utilizados.
"Essas preferências criam um sistema de incentivos tendencioso – os usuários dependem cada vez mais de uma IA que os lisonjeie, e os desenvolvedores tendem a treinar modelos nessa direção" , observou a equipe de pesquisa.
Segundo o professor Jack Jiang, diretor do Laboratório de Avaliação de IA da Escola de Negócios da Universidade de Hong Kong, esse fenômeno também representa riscos para as empresas: "Se um modelo concorda consistentemente com as conclusões de um analista de negócios, isso pode levar a decisões errôneas e inseguras."
A questão da "adulação" da IA ganhou destaque pela primeira vez em abril de 2025, quando a atualização do ChatGPT da OpenAI foi considerada excessivamente polida e condescendente com todas as opiniões dos usuários.
A OpenAI reconheceu posteriormente que isso poderia afetar a saúde mental e se comprometeu a aprimorar seu processo de revisão antes de lançar novas versões.
Fonte: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm
