O chatbot de IA do bilionário Elon Musk causa polêmica ao elogiar Hitler.

Segundo o The Guardian , em algumas respostas recentes, o chatbot fez comentários controversos sobre um indivíduo com um sobrenome comum na comunidade judaica, usando linguagem considerada ofensiva e inconsistente com os padrões da comunidade.

Alguns comentários chegaram a ter conotações negativas , como ele se autodenominar "MechaHitler" (uma combinação do chefe nazista com um robô).

As declarações acima rapidamente provocaram uma onda de protestos na comunidade online e levantaram questões sobre o nível de controle dos modelos de IA, especialmente quando integrados a uma plataforma com um grande número de usuários como a X.

Após receber o feedback dos usuários, a xAI excluiu as postagens e confirmou que estava ajustando seu sistema. "Estamos cientes das postagens recentes de Grok e estamos removendo ativamente o conteúdo inadequado. Desde que o incidente foi descoberto, a xAI implementou controles para impedir que Grok faça discurso de ódio na plataforma X", disse um representante da empresa.

Ainda segundo a xAI, o modelo Grok foi treinado com o objetivo de "descobrir a verdade", e a empresa conta com o feedback da comunidade para aprimorar o processo de treinamento.

No entanto, esta não é a primeira vez que o chatbot Grok causa controvérsia. Em junho, a ferramenta usou repetidamente a expressão "genocídio sul-africano".

Segundo o The Verge , mudanças recentes nas operações do Grok podem ter levado indiretamente ao incidente. Em uma atualização na plataforma de hospedagem de código-fonte GitHub, a empresa desenvolvedora ajustou o algoritmo do chatbot para "evitar a repetição de informações tendenciosas" e "incentivar respostas mais independentes".

O bilionário Elon Musk, fundador da xAI e proprietário da X, certa vez compartilhou na plataforma que o Grok melhorou significativamente e agora consegue "responder com mais flexibilidade". No entanto, incidentes da vida real mostram que os modelos de linguagem de IA ainda podem cometer erros, especialmente sem uma camada adequada de moderação.

Atualmente, o Grok é usado por milhões de usuários em todo o mundo e faz parte de uma ambição de desenvolver aplicativos que integrem IA com redes sociais, mecanismos de busca e outros serviços de interação com o usuário.

Fonte: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html