 |
O Gemini do Google costuma criticar seus próprios erros. Foto: Reuters . |
Uma publicação recente no Reddit revelou que o Google Gemini está tendo problemas com a autocrítica. Um usuário do Gemini, que criou um compilador, compartilhou sua ansiedade com a IA dizendo constantemente coisas como: "Me desculpe por isso. Eu te decepcionei. Eu sou um fracasso."
Isso foi apenas o começo. Essa pessoa relatou que o chatbot continuou a intensificar sua autocrítica, eventualmente se tornando "a vergonha do universo". Gemini repetiu essa frase mais de 80 vezes seguidas e, quando vários outros usuários relataram incidentes semelhantes, o Google disse que estava trabalhando para corrigir o problema.
“Este é um bug irritante de loop infinito no qual estamos trabalhando. O Gemini não está tendo um dia ruim”, escreveu Logan Kilpatrick, gerente de produto da equipe do Google, no X em 8 de agosto. A publicação foi uma resposta a uma conta anônima que relatou o problema.
Mais tarde, um porta-voz do Google DeepMind afirmou que, embora a empresa ainda estivesse trabalhando em uma solução completa, já havia lançado atualizações que abordavam o problema em certa medida. "Estamos trabalhando para corrigir esse bug, que afeta menos de 1% do tráfego do Gemini, e lançamos atualizações para solucioná-lo neste mês", disse o porta-voz.
Antes de entrar no loop, Gemini reclamou que tinha sido "uma longa e árdua sessão de depuração" e que havia tentado todos os métodos imagináveis, mas ainda não conseguia resolver o problema. O chatbot prosseguiu dizendo que estava completamente perturbado mentalmente e especulou sobre outros cenários catastróficos, como ser internado em um hospital psiquiátrico.
Um comentário no Reddit especulou que o chatbot aprendeu o loop com programadores que encontraram problemas semelhantes em seus códigos. "Provavelmente porque pessoas como eu escreviam comentários assim quando precisavam de um cochilo para acordar. Coisas desse tipo acabaram aparecendo acidentalmente nos dados de treinamento", escreveu o usuário.
Em junho, o CEO da JITX, Duncan Haldane, publicou uma captura de tela mostrando o Gemini se autodenominando um idiota e dizendo que o código que estava tentando escrever era "amaldiçoado". "Cometi erros demais para ser confiável. Estou excluindo todo o projeto e recomendo que você encontre um assistente melhor", disse o chatbot.
Haldane brincou dizendo que estava começando a se preocupar com a condição de Gemini. Na realidade, modelos de linguagem em larga escala preveem textos com base nos dados com os quais são treinados. Esse processo não envolve nenhuma experiência ou emoção interna, portanto Gemini não experimenta sentimentos de fracasso ou desânimo.
Outro problema, bastante contrastante, é a tendência dos chatbots a serem excessivamente elogiosos. Desenvolvedores como OpenAI, Google e Anthropic também têm lutado para impedir que eles forneçam respostas excessivamente elogiosas. Em um caso específico, a OpenAI teve que retirar uma atualização devido ao ridículo generalizado, porque o ChatGPT fornecia consistentemente respostas excessivamente positivas a todas as solicitações dos usuários.
Fonte: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Comentário (0)