Как инструменты ИИ могут помочь редакциям модерировать комментарии?

Для многих газет раздел комментариев — это прекрасная возможность для читателей поделиться разнообразными мыслями, опытом и точками зрения, но он также может стать рассадником негатива со спорами и оскорбительными выражениями, которые заглушают ценные голоса.

Именно с такой проблемой столкнулась редактор сообщества Financial Times Люси Уорвик-Чинг. В FT есть специальная команда модераторов, но с сотнями статей, публикуемых каждую неделю, они не справлялись с потоком, и комментарии к большинству из них были закрыты. Они также решили закрыть все разделы комментариев по выходным, чтобы избежать выхода токсичных дискуссий из-под контроля, когда никого нет за рабочим столом.

Нанимать дополнительных модераторов было слишком дорого, а создавать собственную систему модерации — слишком обременительно. Поэтому команда Уорвик-Чинга использовала уже существующий инструмент модерации от Utopia Analytics, который затем был обучен на 200 000 реальных комментариев читателей распознавать вежливые, не вызывающие споров и не относящиеся к теме обсуждения.

Инструмент ИИ способен распознавать сексистские и расистские комментарии, несмотря на сложный язык. Фото: Eidosmedia

Когда инструмент только запустился, FT всё ещё приходилось вручную проверять каждый одобренный комментарий. Инструменту потребовалось несколько месяцев, чтобы принять правильные решения по модерации. Сейчас он выявляет большинство сексистских и расистских комментариев, несмотря на сложную лексику читателей FT.

«Он не идеален, и работа над ним все еще продолжается», — сказала Уорвик-Чинг спустя шесть месяцев.

Тем не менее, влияние значительно. Раньше модераторы тратили большую часть времени на фильтрацию негативных комментариев. Теперь же ИИ берёт на себя большую часть тяжёлой работы, позволяя модераторам сосредоточиться на формировании сообществ.

Инструмент на основе искусственного интеллекта не только эффективен для модерации комментариев, но и заменяет людей в работе с эмоционально травмирующими комментариями. Теперь ИИ поглощает большую часть негатива, исходящего от этих комментариев, защищая людей от него.

Самое главное, говорит Уорвик-Чинг, внедрение инструментов ИИ не означает, что модераторы останутся без работы. «С самого начала, когда мы внедрили инструмент модерации, мы чётко дали понять, что речь идёт не о сокращении штата, а о создании пространства для модераторов, где они смогут выполнять свою работу».

На данный момент инструмент на основе искусственного интеллекта дал положительные результаты. Читатели написали нам по электронной почте, что заметили повышение вежливости в комментариях, и не было ни одного серьёзного жалобы на несправедливое отклонение комментариев.

Журналисты также отметили значительное увеличение пользы от комментариев, поскольку ценные отзывы читателей обогащали их статьи. Они также обнаружили, что использование ИИ позволяет модераторам сосредоточиться на том, что у них получается лучше всего: создании благоприятной и информативной среды для людей.

Хоай Фуонг (по данным журналистики)

Источник: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html