Preocupações de que o chatbot Grok esteja causando um aumento na desinformação na internet

O chatbot Grok de Elon Musk começou a permitir que os usuários criassem imagens de IA a partir de texto e as publicassem no X, incluindo imagens falsas de políticos como o ex-presidente dos EUA Donald Trump, a vice-presidente dos EUA Kamala Harris...

Ao contrário de outras ferramentas de IA para tirar fotos, a Grok de Musk parece ter menos regulamentações. No teste da CNN , por exemplo, a Grok criou facilmente imagens falsas de políticos, enganando os eleitores.

Imagem de Elon Musk criada pelo chatbox Grok. (Fonte: CNN)

Alguns usuários do X também postaram imagens criadas por Grok, mostrando celebridades fumando drogas, personagens de desenhos animados matando pessoas e imagens sexualizadas de mulheres de biquíni.

De acordo com a CNN , Grok levanta ainda preocupações de que a IA possa alimentar uma explosão de desinformação na Internet, especialmente com a aproximação das eleições presidenciais dos EUA.

Legisladores, grupos ativistas e líderes de tecnologia alertaram que o uso indevido dessas ferramentas pode causar confusão e caos para os eleitores.

Muitas das principais empresas de IA do mundo implementaram políticas para evitar que ferramentas de geração de imagens baseadas em IA sejam usadas para criar desinformação política, embora pesquisadores tenham descoberto que os usuários às vezes encontram maneiras de contornar as regras.

Várias empresas como OpenAI, Meta e Microsoft usam tecnologia ou rótulos para ajudar os espectadores a saber quais imagens são geradas por sua IA.

Redes sociais como YouTube, TikTok, Instagram e Facebook também rotulam conteúdo gerado por IA nos feeds dos usuários, usando tecnologia para detectá-lo ou pedindo aos usuários que identifiquem quando o publicaram.

Em 16 de agosto, a IA pareceu impor algumas restrições ao Grok. A ferramenta agora se recusa a gerar imagens de candidatos políticos ou personagens famosos de desenhos animados cometendo atos de violência.

Fonte: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html