Hur kan AI-verktyg hjälpa nyhetsredaktioner att moderera kommentarer?

För många tidningar är kommentarsfältet ett utmärkt utrymme för läsare att bidra med olika tankar, erfarenheter och perspektiv, men det kan också bli en grogrund för negativitet med argument och kränkande språk som överröstar värdefulla röster.

Det här var utmaningen som Lucy Warwick-Ching, redaktör på Financial Times, stod inför. Financial Times har ett dedikerat moderatorteam, men med hundratals publicerade artiklar varje vecka kunde de inte hålla jämna steg med tempot, och kommentarer stängdes för de flesta av dem. De beslutade också att stänga alla kommentarsfält på helgerna för att undvika att giftiga diskussioner skulle spåra ur när ingen var vid deras skrivbord.

Att anställa ytterligare moderatorer var för dyrt och att bygga ett eget modereringssystem var för besvärligt. Så Warwick-Chings team använde ett befintligt modereringsverktyg från Utopia Analytics, som sedan tränades på 200 000 riktiga läsarkommentarer för att känna igen artiga, icke-argumentativa och irrelevanta diskussioner.

AI-verktyg kan identifiera sexistiska och rasistiska kommentarer, trots komplext språkbruk. Foto: Eidosmedia

När verktyget först lanserades var Financial Times fortfarande tvunget att manuellt kontrollera varje kommentar som godkändes. Det tog flera månader för verktyget att fatta rätt modereringsbeslut. Nu fångar det upp de flesta sexistiska och rasistiska kommentarer, trots det komplexa språkbruk som Financial Times läsare använder.

"Det är inte perfekt och det är fortfarande ett pågående arbete", sa Warwick-Ching efter sex månader.

Ändå är effekten betydande. Tidigare spenderade moderatorer större delen av sin tid på att filtrera bort negativa kommentarer. Nu gör AI mycket av det tunga arbetet, vilket gör att moderatorerna kan fokusera på att bygga communities.

AI-verktyget är inte bara effektivt för att moderera kommentarer, det ersätter också människor i hanteringen av känslomässigt skadliga kommentarer. AI absorberar nu mycket av den negativitet som kommer från dessa kommentarer och skyddar människor från negativiteten.

Warwick-Ching menar att införandet av AI-verktyg inte betyder att några moderatorer förlorar sina jobb. ”Från början, när vi introducerade modereringsverktyget, gjorde vi det tydligt att det inte handlade om att minska personalstyrkan, utan om att skapa ett utrymme för moderatorer att göra sina jobb.”

Hittills har AI-verktyget gett positiva resultat. Läsare har mejlat och sagt att de har märkt förbättrad kommentarshövlighet, och det har inte förekommit några betydande klagomål om att kommentarer har avvisats orättvist.

Journalister såg också en betydande ökning av fördelarna med kommentarer, där värdefulla läsarinput berikade deras berättelser. De fann också att användningen av AI gjorde det möjligt för moderatorer att fokusera på det de gör bäst: att skapa ett välkomnande och informativt utrymme för människor.

Hoai Phuong (enligt journalistik)

Källa: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html