Jak mohou nástroje umělé inteligence pomoci redakcím moderovat komentáře?

Pro mnoho novin je sekce komentářů skvělým prostorem pro čtenáře, kde mohou přispívat rozmanitými myšlenkami, zkušenostmi a perspektivami, ale může se také stát živnou půdou pro negativitu s argumenty a urážlivým jazykem, které mohou přehlušit cenné hlasy.

S touto výzvou se potýkala redaktorka komunity Financial Times Lucy Warwick-Chingová. FT má specializovaný moderátorský tým, ale se stovkami článků publikovaných každý týden nestíhá držet krok s tempem a většina z nich je uzavřena pro komentáře. Také se rozhodli o víkendech zavřít všechny sekce komentářů, aby se zabránilo tomu, že se toxické diskuse vymknou kontrole, když nikdo není u stolu.

Najímání dalších moderátorů bylo příliš drahé a budování vlastního moderačního systému příliš těžkopádné. Warwick-Chingův tým proto použil běžně dostupný moderační nástroj od společnosti Utopia Analytics, který byl následně natrénován na 200 000 komentářích skutečných čtenářů, aby rozpoznal zdvořilé, nehádající se diskuse mimo téma.

Nástroj umělé inteligence dokáže identifikovat sexistické a rasistické komentáře i přes složitý jazyk. Foto: Eidosmedia

Když byl tento nástroj poprvé použit, musela Financial Times stále ručně kontrolovat každý schválený komentář. Trvalo několik měsíců, než nástroj učinil správná rozhodnutí o moderování. Nyní zachycuje většinu sexistických a rasistických komentářů, a to i přes složitý jazyk, který čtenáři FT používají.

„Není to dokonalé a stále se na tom pracuje,“ řekl Warwick-Ching o šest měsíců později.

Dopad je však značný. Dříve moderátoři trávili většinu času filtrováním negativních komentářů. Nyní umělá inteligence dělá velkou část těžké práce, což moderátorům umožňuje soustředit se na budování komunit.

Nástroj umělé inteligence nejenže efektivně moderuje komentáře, ale také nahrazuje lidi při řešení emocionálně škodlivých komentářů. Umělá inteligence nyní absorbuje velkou část negativity, která z těchto komentářů vychází, a chrání tak lidi před negativitou.

Warwick-Ching říká, že nejdůležitější je, že zavedení nástroje umělé inteligence nepřipraví žádné moderátory o práci. „Od začátku, když jsme nástroj pro moderování zaváděli, jsme si byli jasní, že nejde o snižování počtu zaměstnanců, ale o vytvoření prostoru pro moderátory, aby si mohli vykonávat svou práci.“

Nástroj umělé inteligence zatím přinesl pozitivní výsledky. Čtenáři nám e-mailem napsali, že si všimli zlepšené zdvořilosti v sekci komentářů a že se neobjevily žádné významné stížnosti na nespravedlivé odmítnutí komentářů.

Novináři také zaznamenali výrazný nárůst přínosů komentářů, kdy cenné čtenářské podněty obohacují jejich příběhy. Zjistili také, že používání umělé inteligence umožňuje moderátorům soustředit se na to, co dělají nejlépe: vytváření příjemného a informativního prostředí pro všechny.

Hoai Phuong (podle žurnalistiky)

Zdroj: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html