A IA tem melhor desempenho quando incumbida de resolver problemas que seguem procedimentos claros e fórmulas fixas. No entanto, ao lidar com situações que exigem julgamento subjetivo ou envolvem preferências pessoais, a IA pode cometer erros semelhantes aos humanos.
Um novo estudo publicado na revista Manufacturing & Service Operations Management, conduzido por cientistas de cinco universidades do Canadá e da Austrália, avaliou o comportamento do ChatGPT (especificamente, os modelos GPT-3.5 e GPT-4 da OpenAI) em 18 vieses cognitivos proeminentes comumente encontrados na psicologia humana, como o viés de confirmação, o efeito possessivo, a falácia do custo irrecuperável e o viés de certeza.
Os resultados mostraram que, em quase metade dos cenários testados, o ChatGPT se comportou exatamente como um humano ao ser confrontado com escolhas irracionais ou emocionais, apesar da reputação do sistema de apresentar raciocínio lógico consistente.
Será que a IA é realmente tão "imparcial" quanto se espera?
O Dr. Yang Chen, professor associado de gestão de operações na Ivey Business School (Canadá) e principal autor do estudo, afirmou: "A IA tem melhor desempenho quando incumbida de resolver problemas que seguem processos claros e fórmulas fixas. Mas, ao lidar com situações que exigem julgamento subjetivo ou envolvem preferências pessoais, a IA pode cometer erros, assim como os humanos."
A equipe de pesquisa incorporou cenários psicológicos familiares ao ChatGPT, adicionando contextos práticos como gerenciamento de estoque ou negociações com fornecedores.
Vale ressaltar que os modelos de IA ainda exibem viés cognitivo mesmo quando o contexto da questão muda de abstrato para prático, no âmbito empresarial.
O GPT-4 é mais inteligente, mas não é perfeito.
O GPT-4 é uma versão aprimorada do GPT-3.5 que se destaca na resolução de problemas de lógica ou probabilidade. No entanto, em simulações subjetivas, como a escolha de uma opção arriscada para aumentar o lucro, o GPT-4 demonstra uma tendência a se comportar de forma mais emocional do que os humanos.
Em particular, o estudo observou que o GPT-4 fornece consistentemente respostas tendenciosas em cenários de teste de viés de confirmação e é mais propenso à "falácia da mão quente", uma tendência a acreditar que eventos aleatórios se repetirão em sequência, do que o GPT-3.5.
Por outro lado, a IA tem o potencial de evitar alguns dos vieses que os humanos frequentemente cometem, como ignorar a negligência da taxa base ou a falácia do custo irrecuperável.
O motivo pelo qual o ChatGPT exibe um viés semelhante ao humano decorre de seus dados de treinamento, que são repletos de nossos próprios comportamentos e padrões de pensamento falhos. - Imagem: IA
A origem do viés da IA: nos próprios dados humanos.
Segundo a equipe de pesquisa, o motivo pelo qual o ChatGPT exibe um viés semelhante ao humano decorre dos próprios dados de treinamento, que são repletos de nossos próprios comportamentos e padrões de pensamento falhos. O fato de a IA ser refinada com base no feedback humano reforça ainda mais essa tendência, já que o modelo é "recompensado" por respostas que parecem razoáveis, em vez de totalmente precisas.
"Para resultados precisos e imparciais, use IA para tarefas que você já confia que um computador execute bem", recomenda o Dr. Chen. "No entanto, para problemas estratégicos ou emocionais, a supervisão e a intervenção humana ainda são necessárias, mesmo que seja simplesmente reformulando a pergunta."
A coautora Meena Andiappan, professora associada de recursos humanos e gestão na Universidade McMaster (Canadá), argumenta: "A IA deve ser vista como um funcionário com significativo poder de decisão, o que significa que precisa ser supervisionada e aderir a princípios éticos. Caso contrário, estaremos inadvertidamente automatizando o pensamento falho em vez de aprimorá-lo."
Fonte: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm
Comentário (0)