Como as ferramentas de IA podem ajudar as redações a moderar comentários?

Para muitos jornais, a seção de comentários é um ótimo espaço para os leitores contribuírem com pensamentos, experiências e perspectivas diversas, mas também pode se tornar um terreno fértil para a negatividade, com argumentos e linguagem ofensiva que abafam vozes valiosas.

Esse foi o desafio enfrentado pela editora de comunidade do Financial Times, Lucy Warwick-Ching. O FT tem uma equipe de moderação dedicada, mas, com centenas de artigos publicados semanalmente, eles não conseguiram acompanhar o ritmo, e os comentários foram fechados na maioria deles. Eles também decidiram fechar todas as seções de comentários nos fins de semana para evitar que discussões tóxicas saíssem do controle quando ninguém estava em suas mesas.

Contratar moderadores adicionais era muito caro e construir seu próprio sistema de moderação, muito trabalhoso. Então, a equipe de Warwick-Ching usou uma ferramenta de moderação pré-existente da Utopia Analytics, que foi treinada com 200.000 comentários de leitores reais para reconhecer discussões educadas, não argumentativas e fora do tópico.

Uma ferramenta de IA consegue identificar comentários sexistas e racistas, mesmo com linguagem complexa. Foto: Eidosmedia

Quando a ferramenta foi lançada, o FT ainda precisava verificar manualmente cada comentário aprovado. Levou vários meses para que a ferramenta tomasse as decisões corretas de moderação. Agora, ela detecta a maioria dos comentários sexistas e racistas, apesar da linguagem complexa usada pelos leitores do FT.

“Não é perfeito e ainda é um trabalho em andamento”, disse Warwick-Ching após seis meses.

Ainda assim, o impacto é significativo. Anteriormente, os moderadores passavam a maior parte do tempo filtrando comentários negativos. Agora, a IA faz grande parte do trabalho pesado, permitindo que os moderadores se concentrem na construção de comunidades.

A ferramenta de IA não só é eficaz na moderação de comentários, como também substitui os humanos na hora de lidar com comentários emocionalmente prejudiciais. A IA agora absorve grande parte da negatividade que emana desses comentários, protegendo os humanos da negatividade.

Mais importante ainda, Warwick-Ching afirma que a introdução de ferramentas de IA não significa que nenhum moderador fique sem emprego. "Desde o início, quando introduzimos a ferramenta de moderação, deixamos claro que não se tratava de reduzir a equipe, mas de criar um espaço para os moderadores fazerem seu trabalho."

Até agora, a ferramenta de IA produziu resultados positivos. Leitores enviaram e-mails dizendo que notaram uma melhora na civilidade dos comentários, e não houve nenhuma reclamação significativa sobre comentários rejeitados injustamente.

Jornalistas também observaram um aumento significativo nos benefícios dos comentários, com a valiosa contribuição dos leitores enriquecendo suas matérias. Eles também descobriram que o uso da IA ​​permitiu que os moderadores se concentrassem no que fazem de melhor: promover um espaço acolhedor e informativo para as pessoas.

Hoai Phuong (de acordo com o Jornalismo)

Fonte: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html