Quando a IA decide o que você diz online

Em um mundo digital onde todos têm voz, os algoritmos de filtragem de comentários estão ajudando a proteger a comunidade ou estão involuntariamente sufocando as vozes dos usuários?

A IA está escaneando e excluindo comentários nas redes sociais

Quando as pessoas deixam um comentário em um vídeo do YouTube, uma publicação no Facebook ou um artigo online, elas não têm ideia se ele chegará a alguém. Não é porque está escrito errado, nem porque é ilegal, é simplesmente bloqueado por um algoritmo de filtragem automatizado.

Plataformas tecnológicas agora empregam sistemas de filtragem de comentários para remover discurso de ódio, pornografia, violência e discursos divisionistas. O objetivo é "manter as comunidades seguras", mas será que essas ferramentas são tão higienizadoras que se tornam insensíveis?

Quando a IA se torna a guardiã da fala

Ao contrário dos primórdios da internet, onde comentários "brutos" podiam aparecer livremente, a maioria das principais plataformas agora delega a responsabilidade da filtragem de conteúdo à inteligência artificial. Graças ao aprendizado de máquina, os sistemas podem escanear milhões de linhas de texto todos os dias, avaliando a linguagem, o tom e até mesmo o "contexto" para decidir se devem ser mantidos ou excluídos.

Entretanto, esse sistema nem sempre é preciso.

A Sra. Ngoc Vy (HCMC) compartilhou: "Meu comentário sobre um produto foi ocultado por algum motivo desconhecido. Sem palavrões, sem spam, apenas um comentário que desapareceu após alguns segundos."

Muitos conteúdos são removidos simplesmente por usarem palavras sensíveis em um contexto completamente normal. Expressões como "pobreza", "fome", "política" ou "sistema" às vezes são mal interpretadas como negativas se a máquina não consegue "ler" o espírito da frase.

Filtrar ou eliminar críticas?

De acordo com um alerta da organização alemã AlgorithmWatch, sistemas automatizados de censura podem eliminar involuntariamente vozes dissidentes, especialmente de grupos desfavorecidos ou minoritários, porque esses sistemas aprendem com o comportamento da maioria, que não é diversa o suficiente em termos de cultura e pontos de vista.

No Vietnã, o controle rigoroso de conteúdo pelas plataformas de mídia social está se tornando mais comum, especialmente com sites de notícias altamente interativos. Comentários sobre questões atuais e sociais são frequentemente impedidos de serem exibidos ou precisam ser "pré-aprovados", levando muitas pessoas a se perguntarem: ainda existe liberdade de expressão no ciberespaço?

O preocupante é que os usuários raramente sabem por que os comentários são ocultados ou excluídos. Não há notificações, nem mecanismos transparentes de feedback. Tudo acontece silenciosamente e, em um mundo governado por algoritmos, o silêncio pode ser a forma mais sutil de censura.

Mantenha a internet limpa, mas não esconda a conversa

Um ciberespaço limpo não significa estéril. A sociedade é um lugar onde diferentes opiniões são expressas, construtivas, críticas e debatidas. Precisamos de algoritmos para filtrar discursos tóxicos, mas também precisamos proteger o direito de discordar, o direito de questionar, o direito de levantar inconveniências.

Quando cada comentário precisa ser "moderado", temos que nos perguntar: a tecnologia está protegendo a comunidade ou filtrando o que a comunidade tem permissão para ouvir?

A tecnologia não pode substituir os humanos na tomada de decisões valiosas. E na era da IA, a transparência e o direito ao feedback são os "algoritmos" mais justos para todo o sistema.

A tecnologia deve ajudar as pessoas a se expressarem, não decidir o que dizer por elas.

INTELIGÊNCIA ÚNICA

Fonte: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm