Quando a IA decide o que você diz online

Em um mundo digital onde todos têm voz, os algoritmos de filtragem de comentários ajudam a proteger as comunidades ou, involuntariamente, silenciam as vozes dos usuários?

A inteligência artificial está analisando e excluindo comentários nas redes sociais.

Quando as pessoas deixam um comentário em um vídeo do YouTube, uma publicação no Facebook ou um artigo online, elas não têm ideia se ele chegará a alguém. Não é porque está escrito errado, nem porque é ilegal, mas simplesmente porque é bloqueado por um algoritmo de filtragem automático.

As plataformas tecnológicas agora utilizam sistemas de filtragem de comentários para remover discursos de ódio, pornografia, violência e mensagens que incitam à divisão. O objetivo é "manter as comunidades seguras", mas será que essas ferramentas são tão rigorosas a ponto de se tornarem insensíveis?

Quando a IA se torna a guardiã da fala

Diferentemente dos primórdios da internet, quando comentários "brutos" podiam aparecer livremente, a maioria das principais plataformas agora delega a responsabilidade pela filtragem de conteúdo à inteligência artificial. Graças ao aprendizado de máquina, os sistemas conseguem analisar milhões de linhas de texto diariamente, avaliando a linguagem, o tom e até mesmo o "contexto" para decidir se devem manter ou excluir o conteúdo.

No entanto, esse sistema nem sempre é preciso.

A Sra. Ngoc Vy (Ho Chi Minh) compartilhou: "Meu comentário sobre um produto foi ocultado por algum motivo desconhecido. Sem palavrões, sem spam, apenas um comentário que desapareceu depois de alguns segundos."

Muitos conteúdos são removidos simplesmente por utilizarem palavras sensíveis em um contexto completamente normal. Frases como "pobreza", "fome", "política" ou "sistema" às vezes são mal interpretadas como negativas se o sistema não conseguir "ler" o espírito da frase.

Filtrar ou eliminar as críticas?

Segundo um alerta da organização alemã AlgorithmWatch, os sistemas automatizados de censura podem eliminar involuntariamente vozes dissidentes, especialmente de grupos desfavorecidos ou minoritários, porque esses sistemas aprendem com o comportamento da maioria, que não é suficientemente diversa em termos de cultura e pontos de vista.

No Vietnã, o controle rígido de conteúdo por plataformas de mídia social está se tornando cada vez mais comum, especialmente em sites de notícias altamente interativos. Comentários sobre assuntos da atualidade e questões sociais são frequentemente restringidos ou precisam ser "pré-aprovados", levando muitas pessoas a questionarem: ainda existe liberdade de expressão no ciberespaço?

O preocupante é que os usuários raramente sabem por que os comentários são ocultados ou apagados. Não há notificações, nem mecanismos transparentes de feedback. Tudo acontece silenciosamente e, em um mundo regido por algoritmos, o silêncio pode ser a forma mais sutil de censura.

Mantenha a internet limpa, mas não suavize a conversa.

Um ciberespaço limpo não deve significar um espaço estéril. A sociedade é um lugar onde diferentes opiniões são expressas, construtivas, críticas e debatidas. Precisamos de algoritmos para filtrar discursos tóxicos, mas também precisamos proteger o direito de discordar, o direito de questionar, o direito de expressar opiniões incômodas.

Quando todos os comentários precisam ser "moderados", devemos nos perguntar: a tecnologia está protegendo a comunidade ou filtrando o que a comunidade pode ouvir?

A tecnologia não pode substituir os humanos na tomada de decisões importantes. E na era da IA, a transparência e o direito ao feedback são os "algoritmos" mais justos para todo o sistema.

A tecnologia deve ajudar as pessoas a se expressarem, e não decidir o que dizer por elas.

INTELIGÊNCIA ÚNICA

Fonte: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm