Comment les outils d’IA peuvent-ils aider les salles de rédaction à modérer les commentaires ?

Pour de nombreux journaux, la section des commentaires est un formidable espace où les lecteurs peuvent apporter des pensées, des expériences et des perspectives diverses, mais elle peut également devenir un terrain fertile pour la négativité, avec des arguments et un langage offensant qui étouffent les voix précieuses.

C'est le défi auquel a été confrontée Lucy Warwick-Ching, rédactrice en chef de la communauté du Financial Times. Le FT dispose d'une équipe de modération dédiée, mais avec des centaines d'articles publiés chaque semaine, elle n'arrivait pas à suivre le rythme, et les commentaires étaient pour la plupart fermés. Elle a également décidé de fermer toutes les sections de commentaires le week-end afin d'éviter que des discussions toxiques ne dégénèrent en moments d'absence.

Recruter des modérateurs supplémentaires était trop coûteux et mettre en place son propre système de modération, trop complexe. L'équipe de Warwick-Ching a donc utilisé un outil de modération préexistant d'Utopia Analytics, qui a ensuite été entraîné sur 200 000 commentaires de lecteurs réels pour identifier les discussions polies, non polémiques et hors sujet.

Un outil d'IA peut identifier les commentaires sexistes et racistes, malgré un langage complexe. Photo : Eidosmedia

Au lancement de l'outil, le Financial Times devait encore vérifier manuellement chaque commentaire approuvé. Il lui a fallu plusieurs mois pour prendre les bonnes décisions de modération. Aujourd'hui, il détecte la plupart des commentaires sexistes et racistes, malgré la complexité du langage utilisé par les lecteurs du Financial Times.

« Ce n’est pas parfait et c’est encore un travail en cours », a déclaré Warwick-Ching après six mois.

L'impact reste néanmoins significatif. Auparavant, les modérateurs passaient le plus clair de leur temps à filtrer les commentaires négatifs. Désormais, l'IA se charge d'une grande partie du travail, permettant aux modérateurs de se concentrer sur la création de communautés.

L'IA est non seulement efficace pour modérer les commentaires, mais elle remplace également les humains dans le traitement des commentaires émotionnellement dommageables. L'IA absorbe désormais une grande partie de la négativité qui en émane, protégeant ainsi les humains.

Plus important encore, Warwick-Ching affirme que l'introduction d'outils d'IA ne signifie pas que les modérateurs perdent leur emploi. « Dès le lancement de l'outil de modération, nous avons clairement indiqué qu'il ne s'agissait pas de réduire les effectifs, mais de créer un espace où les modérateurs peuvent exercer leur métier. »

Jusqu'à présent, l'outil d'IA a produit des résultats positifs. Les lecteurs ont signalé par courriel une amélioration de la courtoisie dans les commentaires, et aucune plainte significative n'a été enregistrée concernant des commentaires rejetés injustement.

Les journalistes ont également constaté une augmentation significative des bénéfices des commentaires, les précieuses contributions des lecteurs enrichissant leurs articles. Ils ont également constaté que l'utilisation de l'IA permettait aux modérateurs de se concentrer sur leur spécialité : créer un espace convivial et informatif.

Hoai Phuong (selon le journalisme)

Source : https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html