Jak mohou nástroje umělé inteligence pomoci redakcím moderovat komentáře?

Pro mnoho novin je sekce komentářů skvělým prostorem pro čtenáře, kde mohou přispívat rozmanitými myšlenkami, zkušenostmi a perspektivami, ale může se také stát živnou půdou pro negativitu s hádkami a urážlivým jazykem, které přehlušují cenné hlasy.

S touto výzvou se potýkala redaktorka komunity Financial Times Lucy Warwick-Chingová. FT má specializovaný moderátorský tým, ale se stovkami článků publikovaných každý týden nedokázal držet krok s tempem a komentáře k většině z nich byly uzavřeny. Také se rozhodli o víkendech zavřít všechny sekce komentářů, aby se zabránilo tomu, že se toxické diskuse vymknou kontrole, když nikdo není u stolu.

Najímání dalších moderátorů bylo příliš drahé a budování vlastního moderačního systému příliš těžkopádné. Warwick-Chingův tým proto použil již existující moderační nástroj od Utopia Analytics, který byl následně natrénován na 200 000 komentářích skutečných čtenářů, aby rozpoznal zdvořilé, nehádající se a diskuse mimo téma.

Nástroj umělé inteligence dokáže identifikovat sexistické a rasistické komentáře i přes složitý jazyk. Foto: Eidosmedia

Když byl nástroj poprvé spuštěn, musel deník Financial Times stále ručně kontrolovat každý schválený komentář. Trvalo několik měsíců, než nástroj učinil správná rozhodnutí o moderování. Nyní zachycuje většinu sexistických a rasistických komentářů, a to i přes složitý jazyk, který čtenáři FT používají.

„Není to dokonalé a stále se na tom pracuje,“ řekl Warwick-Ching po šesti měsících.

Dopad je však značný. Dříve moderátoři trávili většinu času filtrováním negativních komentářů. Nyní umělá inteligence odvádí velkou část těžké práce, což moderátorům umožňuje soustředit se na budování komunit.

Nástroj umělé inteligence nejenže efektivně moderuje komentáře, ale také nahrazuje lidi při řešení emocionálně škodlivých komentářů. Umělá inteligence nyní absorbuje velkou část negativity, která z těchto komentářů vychází, a chrání tak lidi před negativitou.

Warwick-Ching říká, že nejdůležitější je, že zavedení nástrojů umělé inteligence neznamená, že by někteří moderátoři přišli o práci. „Od začátku, když jsme nástroj pro moderování zaváděli, jsme jasně uvedli, že nejde o snižování počtu zaměstnanců, ale o vytvoření prostoru, kde si moderátoři mohou vykonávat svou práci.“

Nástroj umělé inteligence zatím přinesl pozitivní výsledky. Čtenáři nám e-mailem napsali, že si všimli zlepšené zdvořilosti v komentářích a že se neobjevily žádné významné stížnosti na nespravedlivé odmítnutí komentářů.

Novináři také zaznamenali výrazný nárůst přínosu komentářů, kdy cenné čtenářské podněty obohatily jejich příběhy. Zjistili také, že používání umělé inteligence umožnilo moderátorům soustředit se na to, co dělají nejlépe: vytváření příjemného a informativního prostředí pro lidi.

Hoai Phuong (podle žurnalistiky)

Zdroj: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html