Bagaimana alat AI dapat membantu ruang redaksi memoderasi komentar?

Bagi banyak surat kabar, bagian komentar merupakan ruang yang bagus bagi para pembaca untuk menyumbangkan beragam pemikiran, pengalaman, dan perspektif, namun bagian ini juga dapat menjadi tempat berkembang biaknya hal-hal negatif dengan argumen dan bahasa yang menyinggung yang menenggelamkan suara-suara yang berharga.

Inilah tantangan yang dihadapi oleh editor komunitas Financial Times, Lucy Warwick-Ching. FT memiliki tim moderasi khusus, tetapi dengan ratusan artikel yang diterbitkan setiap minggu, mereka tidak mampu mengimbangi kecepatan tersebut, dan kolom komentar ditutup pada sebagian besar artikel. Mereka juga memutuskan untuk menutup semua kolom komentar di akhir pekan untuk mencegah diskusi yang toksik menjadi tak terkendali ketika tidak ada orang di meja mereka.

Mempekerjakan moderator tambahan terlalu mahal dan membangun sistem moderasi sendiri terlalu rumit. Oleh karena itu, tim Warwick-Ching menggunakan alat moderasi yang sudah ada dari Utopia Analytics, yang kemudian dilatih menggunakan 200.000 komentar pembaca asli untuk mengenali diskusi yang sopan, tidak argumentatif, dan tidak sesuai topik.

Alat AI dapat mengidentifikasi komentar seksis dan rasis, meskipun bahasanya rumit. Foto: Eidosmedia

Saat alat ini pertama kali diluncurkan, FT masih harus memeriksa setiap komentar yang disetujui secara manual. Butuh waktu beberapa bulan bagi alat ini untuk membuat keputusan moderasi yang tepat. Kini, alat ini mampu menangkap sebagian besar komentar seksis dan rasis, meskipun bahasa yang digunakan pembaca FT rumit.

“Ini belum sempurna dan masih dalam tahap pengembangan,” kata Warwick-Ching setelah enam bulan.

Meski begitu, dampaknya signifikan. Sebelumnya, moderator menghabiskan sebagian besar waktu mereka menyaring komentar negatif. Kini, AI melakukan banyak pekerjaan berat, memungkinkan moderator untuk fokus membangun komunitas.

Alat AI tidak hanya efektif dalam memoderasi komentar, tetapi juga menggantikan manusia dalam menangani komentar yang merusak emosi. AI kini menyerap sebagian besar hal negatif yang berasal dari komentar-komentar tersebut, melindungi manusia dari hal-hal negatif tersebut.

Yang terpenting, Warwick-Ching mengatakan bahwa pengenalan perangkat AI tidak berarti moderator kehilangan pekerjaan. "Sejak awal kami memperkenalkan perangkat moderasi, kami menegaskan bahwa ini bukan tentang pengurangan staf, tetapi tentang menciptakan ruang bagi moderator untuk melakukan pekerjaan mereka."

Sejauh ini, perangkat AI tersebut telah membuahkan hasil positif. Pembaca telah mengirimkan email yang menyatakan bahwa mereka merasakan peningkatan kesopanan dalam berkomentar, dan belum ada keluhan signifikan tentang komentar yang ditolak secara tidak adil.

Para jurnalis juga merasakan peningkatan signifikan dalam manfaat komentar, dengan masukan berharga dari pembaca yang memperkaya cerita mereka. Mereka juga menemukan bahwa penggunaan AI memungkinkan moderator untuk fokus pada keahlian mereka: menciptakan ruang yang ramah dan informatif bagi orang-orang.

Hoai Phuong (menurut Jurnalisme)

Sumber: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html