Especialistas alertam que os chatbots de IA podem errar em até 45% das vezes.

Especialistas alertam que conteúdo gerado por IA, como o ChatGPT, pode disseminar desinformação em até 45% dos casos, e os usuários devem ter cautela ao consultá-lo.

Kevin Veale, professor sênior de estudos de mídia na Escola de Humanidades, Mídia e Criatividade da Universidade Massey (Nova Zelândia), explica que a inteligência artificial generativa (IA) é usada para gerar texto, imagens e outras formas de dados com base nas informações brutas recebidas.

No entanto, a geração por IA pode se tornar uma ferramenta para criar desinformação mais rapidamente do que os humanos conseguem verificá-la, levando a consequências reais caso os usuários depositem confiança absoluta nela. Modelos de linguagem em larga escala, como o ChatGPT ou o Claude, operam com base na probabilidade de palavras adjacentes aparecerem para criar frases plausíveis, em vez de garantir a precisão.

Segundo o estudo, a desinformação gerada por IA representa até 45% das notícias, independentemente do idioma ou da localização geográfica. A OpenAI também reconhece que não há como impedir completamente que a desinformação se passe por "verdade".

Os pesquisadores comparam esses modelos a estudantes que se deparam com uma questão difícil e que, na dúvida, fazem uma suposição em vez de admitir que não sabem.

O Sr. Veale aconselha os usuários a consultarem fontes confiáveis ​​previamente ou a utilizarem livros e documentos tradicionais como referência. Especialistas enfatizam a necessidade de educação e do estabelecimento de regras para o uso cauteloso da IA, especialmente à medida que ela se integra gradualmente ao trabalho de governos, agências administrativas e organizações complexas.

Voltando ao assunto

VNA

Fonte: https://tuoitre.vn/chatbot-ai-co-the-sai-toi-45-chuyen-gia-canh-bao-20260323211414635.htm