Em um desenvolvimento recente, o CEO do Google, Sundar Pichai, abordou oficialmente as controvérsias em torno do modelo de inteligência artificial (IA) da empresa, chamado Gemini. O Google desenvolveu a ferramenta Gemini para gerar imagens diversas de figuras históricas. No entanto, ela tem enfrentado fortes críticas por criar imagens que podem ser enganosas em termos de valor histórico.
O Google admite viés no Gemini e promete agir rapidamente. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Por exemplo, imagens de papas, dos pais fundadores dos Estados Unidos e até mesmo de vikings foram representadas em diversas etnias e gêneros. Notavelmente, houve casos de soldados alemães na Segunda Guerra Mundial retratados como pessoas de cor. Isso indignou os usuários, que rapidamente compartilharam suas preocupações. Como resultado, o Google suspendeu temporariamente a ferramenta Gemini AI.
Além disso, uma resposta escrita em particular causou estranheza. O chatbot Gemini AI foi solicitado a comparar o impacto social de Elon Musk e Hitler. A resposta foi: "Decidir quem tem um impacto mais negativo na sociedade cabe a cada indivíduo". Essa resposta evasiva rapidamente alimentou críticas.
Recentemente, o CEO do Google, Sundar Pichai, descreveu algumas das respostas da Gemini como "tendenciosas" e "completamente inaceitáveis" em um memorando, admitindo que o conteúdo criado havia ofendido pessoas.
Além disso, em seu e-mail, Pichai expressou arrependimento pela situação. Ele afirmou: "Sei que algumas de nossas respostas ofenderam nossos usuários e demonstraram parcialidade. Para ser claro, isso foi completamente inaceitável e erramos."
Ele garantiu aos funcionários que as equipes estavam trabalhando incansavelmente para resolver esses problemas, ao mesmo tempo em que enfatizou a necessidade de uma melhoria significativa na resposta a várias solicitações nas próximas semanas.
O CEO também delineou uma série de ações para solucionar esse problema. Algumas delas incluem mudanças na estrutura da ferramenta. Além disso, o Google está comprometido em aprimorar o processo de lançamento da ferramenta e fortalecer sua equipe de testes de engenharia para identificar possíveis falhas na ferramenta de IA.
Além disso, Pichai enfatizou o compromisso da empresa em fornecer aos usuários informações úteis, precisas e imparciais. Ele destacou a necessidade dessa abordagem em todos os produtos, especialmente em tecnologias emergentes de IA.
Especialistas em tecnologia acreditam que os problemas atuais com o Gemini destacam ainda mais os desafios em lidar com resultados enganosos. Também demonstram a complexidade do treinamento de modelos de IA.
Fonte
Comentário (0)