Quando a IA decide o que você diz online

Em um mundo digital onde todos têm voz, os algoritmos de filtragem de comentários estão ajudando a proteger as comunidades ou estão involuntariamente sufocando as vozes dos usuários?

A IA está escaneando e excluindo comentários nas redes sociais

Quando as pessoas deixam um comentário em um vídeo do YouTube, uma publicação no Facebook ou um artigo online, elas não têm ideia se ele chegará a alguém. Não é porque esteja escrito errado ou seja ilegal, é simplesmente bloqueado por um algoritmo de filtragem automatizado.

As plataformas tecnológicas atuais utilizam sistemas de filtragem de comentários para eliminar discurso de ódio, pornografia, violência e discursos divisionistas. O objetivo é "manter as comunidades seguras", mas será que essas ferramentas são tão higienizadoras a ponto de se tornarem insensíveis?

Quando a IA se torna a guardiã da fala

Ao contrário dos primórdios da internet, quando comentários "brutos" podiam fluir livremente, a maioria das principais plataformas agora delega a responsabilidade da filtragem de conteúdo à inteligência artificial. Graças ao aprendizado de máquina, os sistemas podem escanear milhões de linhas de texto todos os dias, avaliando a linguagem, o tom e até mesmo o "contexto" para decidir se devem ser mantidos ou excluídos.

Entretanto, esse sistema nem sempre é preciso.

A Sra. Ngoc Vy (HCMC) compartilhou: "Meu comentário sobre um produto foi ocultado sem motivo. Sem palavrões, sem spam, apenas um comentário que desapareceu depois de alguns segundos."

Muitos conteúdos são removidos simplesmente por usarem palavras sensíveis em um contexto completamente normal. Expressões como "pobreza", "fome", "política" ou "sistema" às vezes são mal interpretadas como negativas se a máquina não conseguir "ler" o espírito da frase.

Filtrar ou eliminar críticas?

De acordo com um alerta do AlgorithmWatch (Alemanha), sistemas automatizados de censura podem eliminar involuntariamente vozes dissidentes, especialmente de grupos desfavorecidos ou minoritários, porque esses sistemas aprendem com o comportamento da maioria, que não é diversa o suficiente em termos de cultura e pontos de vista.

No Vietnã, o controle rigoroso de conteúdo por plataformas de mídia social está se tornando mais comum, especialmente em sites de notícias altamente interativos. Comentários sobre questões atuais e sociais são frequentemente impedidos de serem exibidos ou precisam ser "pré-aprovados", levando muitas pessoas a se perguntarem: ainda existe liberdade de expressão no ciberespaço?

O preocupante é que os usuários raramente sabem por que os comentários são ocultados ou excluídos. Não há notificações, nem mecanismos transparentes de feedback. Tudo acontece silenciosamente e, em um mundo governado por algoritmos, o silêncio pode ser a forma mais sutil de censura.

Mantenha a internet limpa, mas não esconda a conversa

Um ciberespaço limpo não significa estéril. A sociedade é um lugar onde diferentes opiniões são expressas, construtivas, críticas e debatidas. Precisamos de algoritmos para filtrar discursos tóxicos, mas também precisamos proteger o direito de discordar, o direito de questionar, o direito de levantar inconveniências.

Quando cada comentário precisa ser “moderado”, temos que perguntar: a tecnologia está protegendo a comunidade ou filtrando o que a comunidade tem permissão para ouvir?

A tecnologia não pode substituir os humanos na tomada de decisões valiosas. E na era da IA, a transparência e o direito ao feedback são os "algoritmos" mais justos para todo o sistema.

A tecnologia deve ajudar as pessoas a se expressarem, não decidir o que dizer por elas.

DUAS MENTES

Fonte: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm