एआई उपकरण न्यूज़रूम को टिप्पणियों को मॉडरेट करने में कैसे मदद कर सकते हैं?

कई समाचार पत्रों के लिए, टिप्पणी अनुभाग पाठकों के लिए विविध विचारों, अनुभवों और दृष्टिकोणों को प्रस्तुत करने के लिए एक बेहतरीन स्थान है, लेकिन यह तर्कों और आपत्तिजनक भाषा के साथ नकारात्मकता का प्रजनन स्थल भी बन सकता है, जो मूल्यवान आवाजों को दबा सकता है।

फाइनेंशियल टाइम्स की कम्युनिटी एडिटर लूसी वारविक-चिंग के सामने यही चुनौती थी। फाइनेंशियल टाइम्स के पास एक समर्पित मॉडरेटर टीम है, लेकिन हर हफ़्ते सैकड़ों लेख प्रकाशित होने के कारण, वे गति बनाए नहीं रख पाते, और ज़्यादातर लेखों पर टिप्पणियाँ बंद रहती हैं। उन्होंने सप्ताहांत में सभी टिप्पणी अनुभाग बंद करने का भी फ़ैसला किया ताकि जब उनके डेस्क पर कोई न हो, तो ज़हरीली चर्चाएँ नियंत्रण से बाहर न हो जाएँ।

अतिरिक्त मॉडरेटर नियुक्त करना बहुत महँगा था और अपनी खुद की मॉडरेशन प्रणाली बनाना भी बहुत बोझिल था। इसलिए वारविक-चिंग की टीम ने यूटोपिया एनालिटिक्स के एक तैयार मॉडरेशन टूल का इस्तेमाल किया, जिसे 2,00,000 वास्तविक पाठकों की टिप्पणियों पर प्रशिक्षित किया गया ताकि वह विनम्र, गैर-तर्कसंगत, विषय से हटकर चर्चाओं को पहचान सके।

जटिल भाषा के बावजूद, AI टूल लैंगिक भेदभाव और नस्लवादी टिप्पणियों की पहचान कर सकता है। फोटो: Eidosmedia

जब यह टूल पहली बार इस्तेमाल में आया था, तब भी एफटी को अपनी हर स्वीकृत टिप्पणी की मैन्युअल जाँच करनी पड़ती थी। इस टूल को सही मॉडरेशन फ़ैसले लेने में कई महीने लग गए। एफटी पाठकों द्वारा इस्तेमाल की जाने वाली जटिल भाषा के बावजूद, अब यह ज़्यादातर लैंगिकवादी और नस्लवादी टिप्पणियों को पकड़ लेता है।

छह महीने बाद वारविक-चिंग ने कहा, "यह पूर्णतः सही नहीं है और इस पर अभी भी काम चल रहा है।"

फिर भी, इसका प्रभाव महत्वपूर्ण है। पहले, मॉडरेटर अपना ज़्यादातर समय नकारात्मक टिप्पणियों को छांटने में लगाते थे। अब, AI बहुत सारा काम कर देता है, जिससे मॉडरेटर समुदाय निर्माण पर ध्यान केंद्रित कर पाते हैं।

एआई टूल न केवल टिप्पणियों को नियंत्रित करने में प्रभावी है, बल्कि भावनात्मक रूप से आहत करने वाली टिप्पणियों से निपटने में भी इंसानों की जगह ले लेता है। एआई अब उन टिप्पणियों से आने वाली अधिकांश नकारात्मकता को सोख लेता है और इंसानों को उस नकारात्मकता से बचाता है।

सबसे महत्वपूर्ण बात यह है कि वारविक-चिंग का कहना है कि एआई टूल के आने से किसी भी मॉडरेटर को बेरोज़गार नहीं होना पड़ेगा। "जब हमने मॉडरेशन टूल शुरू किया था, तब से ही हम स्पष्ट थे कि इसका उद्देश्य कर्मचारियों की संख्या कम करना नहीं, बल्कि मॉडरेटर्स के लिए अपना काम करने की जगह बनाना है।"

अब तक, एआई टूल के सकारात्मक परिणाम सामने आए हैं। पाठकों ने ईमेल भेजकर बताया है कि उन्होंने टिप्पणी अनुभाग में बेहतर शिष्टाचार देखा है, और टिप्पणियों को अनुचित तरीके से अस्वीकार किए जाने की कोई महत्वपूर्ण शिकायत नहीं मिली है।

पत्रकारों ने भी टिप्पणियों के लाभों में उल्लेखनीय वृद्धि देखी है, पाठकों की मूल्यवान राय से उनकी कहानियों को समृद्ध बनाया है। उन्होंने यह भी पाया है कि एआई का उपयोग करने से मॉडरेटर उस काम पर ध्यान केंद्रित कर पाते हैं जिसमें वे सबसे अच्छे हैं: सभी के लिए एक स्वागतयोग्य और जानकारीपूर्ण वातावरण बनाना।

होई फुओंग (पत्रकारिता के अनुसार)

स्रोत: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html