AI ツールはニュースルームがコメントを管理するのにどのように役立ちますか?

多くの新聞社にとって、コメント欄は読者が多様な考えや経験、視点を投稿できる素晴らしいスペースですが、貴重な意見をかき消すような議論や攻撃的な言葉が溢れる否定的な意見の温床になることもあります。

これは、フィナンシャル・タイムズのコミュニティエディター、ルーシー・ワーウィック＝チン氏が直面した課題でした。フィナンシャル・タイムズには専任のモデレーションチームがありますが、毎週数百もの記事が公開されるため、そのペースに追いつくことができず、ほとんどの記事のコメント欄は閉鎖されました。また、誰も席にいない週末には有害な議論が制御不能に陥るのを防ぐため、すべてのコメント欄を閉鎖することにも決めました。

追加のモデレーターを雇うのは費用がかかりすぎ、独自のモデレーションシステムを構築するのは面倒すぎました。そこでワーウィック＝チン氏のチームは、Utopia Analyticsの既存のモデレーションツールを活用しました。このツールは、20万件もの実際の読者コメントで学習させ、礼儀正しく、議論を交わさず、話題から外れた議論を認識できるようにしました。

AIツールは、複雑な言語であっても性差別的・人種差別的なコメントを識別できる。写真：Eidosmedia

このツールが初めて導入された当初、FTは承認するコメントをすべて手作業で確認する必要がありました。適切なモデレーション判断を下せるようになるまでには数ヶ月かかりました。現在では、FTの読者が複雑な言葉遣いをするにもかかわらず、性差別的および人種差別的なコメントのほとんどを検出しています。

「まだ完璧ではないし、進行中だ」とワーウィック・チン氏は6カ月後に語った。

それでも、その影響は大きいです。以前は、モデレーターはほとんどの時間を否定的なコメントのフィルタリングに費やしていました。今ではAIが多くの重労働を担ってくれるので、モデレーターはコミュニティの構築に集中できます。

AIツールはコメントのモデレーションに効果的であるだけでなく、感情的に有害なコメントへの対応においても人間に代わって機能します。AIは、コメントから生じるネガティブな感情の多くを吸収し、人間をネガティブな感情から守っています。

最も重要なのは、ワーウィック＝チン氏がAIツールの導入によってモデレーターの職がなくなるわけではないと述べている点だ。「モデレーションツールを導入した当初から、これは人員削減ではなく、モデレーターが仕事をするための環境を作ることであることを明確にしてきました。」

これまでのところ、AIツールは良好な結果をもたらしています。読者からは、コメントの礼儀正しさが向上したというメールが寄せられており、コメントが不当に拒否されたという重大な苦情は寄せられていません。

ジャーナリストもまた、コメントのメリットが大幅に増加したことを実感しました。読者からの貴重な意見が記事を豊かにするからです。また、AIの活用により、モデレーターは本来の業務である、人々にとって歓迎され、有益な情報を提供する場を育むことに集中できるようになったことも分かりました。

ホアイ・フオン氏（ジャーナリズムによる）

出典: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html