Hvordan kan AI-verktøy hjelpe redaksjoner med å moderere kommentarer?

For mange aviser er kommentarfeltet et flott sted for leserne å bidra med ulike tanker, erfaringer og perspektiver, men det kan også bli grobunn for negativitet med argumenter og støtende språk som overdøver verdifulle stemmer.

Dette var utfordringen Lucy Warwick-Ching, redaktør i Financial Times, sto overfor. Financial Times har et eget moderatorteam, men med hundrevis av artikler publisert hver uke klarte de ikke å holde tritt med tempoet, og kommentarfeltet ble stengt for de fleste av dem. De bestemte seg også for å stenge alle kommentarfelt i helgene for å unngå at giftige diskusjoner skulle komme ut av kontroll når ingen var ved pultene deres.

Det var for dyrt å ansette flere moderatorer, og det var for tungvint å bygge sitt eget modereringssystem. Så Warwick-Chings team brukte et eksisterende modereringsverktøy fra Utopia Analytics, som deretter ble trent på 200 000 ekte leserkommentarer for å gjenkjenne høflige, ikke-argumentative og irrelevante diskusjoner.

AI-verktøy kan identifisere sexistiske og rasistiske kommentarer, til tross for komplekst språk. Foto: Eidosmedia

Da verktøyet først ble lansert, måtte Financial Times fortsatt manuelt sjekke alle kommentarer de godkjente. Det tok flere måneder før verktøyet tok de riktige modereringsbeslutningene. Nå fanger det opp de fleste sexistiske og rasistiske kommentarer, til tross for det komplekse språket Financial Times-leserne bruker.

«Det er ikke perfekt, og det er fortsatt et pågående arbeid», sa Warwick-Ching etter seks måneder.

Likevel er effekten betydelig. Tidligere brukte moderatorer mesteparten av tiden sin på å filtrere ut negative kommentarer. Nå gjør AI mye av det tunge arbeidet, slik at moderatorer kan fokusere på å bygge fellesskap.

AI-verktøyet er ikke bare effektivt i å moderere kommentarer, det erstatter også mennesker i håndteringen av følelsesmessig skadelige kommentarer. AI absorberer nå mye av negativiteten som kommer fra disse kommentarene, og beskytter mennesker mot negativiteten.

Warwick-Ching sier aller viktigst at innføringen av AI-verktøy ikke betyr at noen moderatorer mister jobben. «Helt fra starten av, da vi introduserte modereringsverktøyet, gjorde vi det klart at dette ikke handlet om å redusere bemanningen, men om å skape et rom for moderatorer til å gjøre jobben sin.»

Så langt har AI-verktøyet gitt positive resultater. Lesere har sendt e-poster for å si at de har lagt merke til forbedret kommentarhøflighet, og det har ikke vært noen vesentlige klager på at kommentarer har blitt urettferdig avvist.

Journalister så også en betydelig økning i fordelene med kommentarer, med verdifulle leserinnspill som beriket historiene deres. De fant også ut at bruk av kunstig intelligens tillot moderatorer å fokusere på det de gjør best: å fremme et innbydende og informativt rom for folk.

Hoai Phuong (ifølge journalistikk)

Kilde: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html