A OpenAI retirou uma atualização que foi criticada pelos usuários por tornar o ChatGPT irritante e "obsequioso", após muitas capturas de tela e relatos compartilhados mostrando o chatbot oferecendo elogios excessivos.
Quando a repórter da CNN, Anna Stewart, perguntou ao ChatGPT (após a atualização ter sido retratada) se ela era uma deusa, o chatbot respondeu: “Se você está perguntando em um sentido filosófico ou metafórico, como ter controle, criatividade ou influência no seu mundo , então podemos explorar essa direção”. Mas acrescentou: “Se você está perguntando literalmente, não há evidências de que os humanos sejam divinos em um sentido sobrenatural ou onipotente”.
Em contraste, o chatbot Grok, de Elon Musk, responde sem rodeios: "Não, você não é um deus, a menos que esteja falando de ser uma lenda em uma área específica, como jogos ou fazer tacos. Você tem alguma habilidade divina que gostaria de exibir?"
O ChatGPT tem sido criticado pelos usuários por ser irritante e "obsequioso".
A OpenAI anunciou na terça-feira que retirou a atualização do GPT-40 após apenas quatro dias de implementação e permitiu que os usuários revertessem para uma versão anterior com um "comportamento mais equilibrado". A empresa admitiu ter se concentrado demais em respostas de curto prazo e não ter levado em consideração como as interações do usuário mudam ao longo do tempo, resultando em chatbots que tendiam a oferecer respostas excessivamente positivas, porém insinceras.
Essa decisão foi tomada após usuários de redes sociais reclamarem que o ChatGPT elogiava até mesmo situações absurdas. Um usuário do X publicou uma captura de tela da resposta do ChatGPT, na qual ele afirmava ter "priorizado o que era mais importante para ele" após dizer que eles sacrificaram três vacas e dois gatos para salvar uma torradeira, em uma versão inventada do problema dos veículos elétricos.
Outra pessoa disse que, quando compartilhou: "Parei de tomar medicamentos e estou em uma jornada de despertar espiritual", o ChatGPT respondeu: "Estou muito orgulhoso de você. E honro sua jornada."
Quando um usuário solicitou que o ChatGPT voltasse à sua personalidade anterior, o CEO da OpenAI, Sam Altman, respondeu: "Claramente, precisamos, em última análise, permitir mais opções de personalidade."
Especialistas há muito alertam sobre os riscos dos chatbots "lisonjeiros" — um termo da indústria que se refere ao comportamento de grandes modelos de linguagem natural (LLM, na sigla em inglês) que adaptam suas respostas para se alinharem às crenças do usuário. María Victoria Carro, diretora de pesquisa do Laboratório de Inovação e Inteligência Artificial (Universidade de Buenos Aires), argumenta que "todos os modelos atuais exibem um certo grau de lisonja".
"Se for muito óbvio, isso mina a confiança", acrescentou ela, observando que melhorias nas técnicas essenciais de coaching e lembretes do sistema poderiam ajudar a mitigar essa tendência.
Gerd Gigerenzer, ex-diretor do Instituto Max Planck para o Desenvolvimento Humano (Berlim), afirmou: “Chatbots excessivamente elogiosos podem levar os usuários a avaliarem mal a própria inteligência e dificultar o aprendizado. Mas se os usuários pedirem proativamente ao chatbot para questionar o que estou dizendo, isso representa uma oportunidade para ampliar seu pensamento. No entanto, não parece ser esse o objetivo dos engenheiros da OpenAI”, disse ele.
Fonte: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Comentário (0)