Jak mohou nástroje umělé inteligence pomoci zpravodajským organizacím moderovat komentáře?

Pro mnoho novin je sekce komentářů skvělým prostorem pro čtenáře, kde mohou přispívat rozmanitými myšlenkami, zkušenostmi a perspektivami, ale může se také stát živnou půdou pro negativitu, s kontroverzemi a urážlivým jazykem, které mohou umlčet cenné hlasy.

Toto je výzva, které čelí redaktorka komunity Financial Times Lucy Warwick-Ching. FT má specializovaný redakční tým, ale se stovkami článků publikovaných týdně nestíhá a většina článků je uzavřena pro komentáře. Také se rozhodli o víkendech uzavřít všechny sekce komentářů, aby zabránili tomu, aby se toxické diskuse vymkly kontrole, když nikdo není u stolu.

Najmout další moderátory bylo příliš drahé a vytvoření vlastního moderačního systému příliš složité. Proto Warwick-Chingův tým použil snadno dostupný moderační nástroj od Utopia Analytics. Tento nástroj byl následně natrénován na 200 000 komentářích skutečných čtenářů, aby identifikoval zdvořilé, nekontroverzní a diskuse neodchylující se od tématu.

Nástroje umělé inteligence dokáží identifikovat sexistické a rasistické komentáře bez ohledu na složitost jazyka. Foto: Eidosmedia

Při prvním použití nástroje musela FT stále ručně kontrolovat každý moderovaný komentář. Trvalo několik měsíců, než nástroj dokázal přijmout přesná rozhodnutí o moderování. Nyní zachycuje většinu sexistických a rasistických komentářů bez ohledu na složitý jazyk používaný čtenáři FT.

„Ještě to není perfektní a on je stále v tréninkovém procesu,“ řekl Warwick-Ching po šesti měsících.

Jeho dopad je však stále značný. Dříve museli moderátoři trávit velkou část svého času filtrováním negativních komentářů. Nyní se o velkou část těžké práce postará umělá inteligence, což moderátorům umožňuje soustředit se na budování komunity.

Umělá inteligence nejen efektivně moderuje komentáře, ale také nahrazuje lidi při řešení emocionálně škodlivých komentářů. Umělá inteligence nyní absorbuje velkou část negativity z těchto komentářů a chrání lidi před touto negativitou.

Warwick-Ching uvedl, že nejdůležitější je, že zavedení nástrojů umělé inteligence nevedlo k tomu, že by moderátor přišel o práci. „Od začátku, když jsme zaváděli nástroj pro moderování, jsme jasně uvedli, že to neznamená snížení počtu zaměstnanců, ale spíše vytvoření prostoru pro moderátory, aby mohli vykonávat svou práci.“

Nástroj umělé inteligence zatím přinesl pozitivní výsledky. Čtenáři nám e-mailem napsali, že si všimli zlepšené zdvořilosti v sekci komentářů a že se neobjevily žádné významné stížnosti na nespravedlivé odmítnutí komentářů.

Novináři také zaznamenali výrazný nárůst přínosu komentářů, kdy cenné příspěvky čtenářů obohatily jejich příběhy. Zjistili také, že používání umělé inteligence umožnilo moderátorům soustředit se na to, co dělají nejlépe: vytváření příjemného prostředí a poskytování více informací všem.

Hoai Phuong (podle žurnalistiky)

Zdroj: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html