¿Cómo pueden las herramientas de IA ayudar a las salas de redacción a moderar los comentarios?

Para muchos periódicos, la sección de comentarios es un gran espacio para que los lectores contribuyan con diversos pensamientos, experiencias y perspectivas, pero también puede convertirse en un caldo de cultivo para la negatividad con argumentos y lenguaje ofensivo que ahoga voces valiosas.

Este fue el reto al que se enfrentó Lucy Warwick-Ching, editora de la comunidad del Financial Times. El FT cuenta con un equipo de moderación dedicado, pero con cientos de artículos publicados cada semana, no pudieron mantener el ritmo, y los comentarios se cerraron en la mayoría de ellos. También decidieron cerrar todas las secciones de comentarios los fines de semana para evitar que las discusiones tóxicas se descontrolaran cuando nadie estaba en sus escritorios.

Contratar moderadores adicionales era demasiado costoso y desarrollar su propio sistema de moderación era demasiado engorroso. Por ello, el equipo de Warwick-Ching utilizó una herramienta de moderación preexistente de Utopia Analytics, que posteriormente se entrenó con 200.000 comentarios de lectores reales para reconocer discusiones educadas, no argumentativas y fuera de tema.

Una herramienta de IA puede identificar comentarios sexistas y racistas, incluso con un lenguaje complejo. Foto: Eidosmedia

Cuando la herramienta se puso en marcha, el FT aún tenía que revisar manualmente cada comentario que aprobaba. Tardó varios meses en tomar las decisiones de moderación correctas. Ahora detecta la mayoría de los comentarios sexistas y racistas, a pesar del lenguaje complejo que utilizan los lectores del FT.

"No es perfecto y todavía es un trabajo en progreso", dijo Warwick-Ching después de seis meses.

Aun así, el impacto es significativo. Antes, los moderadores dedicaban la mayor parte de su tiempo a filtrar comentarios negativos. Ahora, la IA se encarga de gran parte del trabajo pesado, lo que permite a los moderadores centrarse en construir comunidades.

La herramienta de IA no solo es eficaz para moderar comentarios, sino que también reemplaza a los humanos en la gestión de comentarios emocionalmente dañinos. La IA ahora absorbe gran parte de la negatividad que proviene de esos comentarios, protegiendo a los humanos de ella.

Lo más importante, afirma Warwick-Ching, es que la introducción de herramientas de IA no significa que los moderadores se queden sin trabajo. «Desde el principio, cuando introdujimos la herramienta de moderación, dejamos claro que no se trataba de reducir personal, sino de crear un espacio para que los moderadores pudieran realizar su trabajo».

Hasta ahora, la herramienta de IA ha dado resultados positivos. Los lectores han enviado correos electrónicos para indicar que han notado una mejora en la cortesía al comentar, y no ha habido quejas significativas sobre comentarios rechazados injustamente.

Los periodistas también observaron un aumento significativo en los beneficios de los comentarios, ya que las valiosas aportaciones de los lectores enriquecieron sus historias. Además, descubrieron que el uso de IA permitió a los moderadores centrarse en lo que mejor saben hacer: fomentar un espacio acogedor e informativo para las personas.

Hoai Phuong (según Periodismo)

Fuente: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html