जब AI तय करता है कि आप ऑनलाइन क्या कहेंगे

एक डिजिटल दुनिया में जहां हर किसी के पास अपनी आवाज है, क्या टिप्पणी फ़िल्टरिंग एल्गोरिदम समुदायों की रक्षा करने में मदद कर रहे हैं, या वे अनजाने में उपयोगकर्ताओं की आवाज को दबा रहे हैं?

AI सोशल मीडिया पर टिप्पणियों को स्कैन और डिलीट कर रहा है

जब लोग किसी YouTube वीडियो , Facebook पोस्ट या ऑनलाइन लेख पर कोई टिप्पणी छोड़ते हैं, तो उन्हें पता नहीं होता कि वह किसी तक पहुँचेगी या नहीं। ऐसा इसलिए नहीं है कि उसमें गलत वर्तनी है या वह गैरकानूनी है, बल्कि इसलिए कि उसे एक स्वचालित फ़िल्टरिंग एल्गोरिथम द्वारा ब्लॉक कर दिया जाता है।

आज के तकनीकी प्लेटफ़ॉर्म नफ़रत फैलाने वाली बातों, अश्लीलता, हिंसा और विभाजनकारी बातों को हटाने के लिए टिप्पणी फ़िल्टरिंग सिस्टम का इस्तेमाल करते हैं। इसका लक्ष्य "समुदायों को सुरक्षित रखना" है, लेकिन क्या ये उपकरण इतने ज़्यादा संवेदनशील हैं कि वे असंवेदनशील हो जाएँ?

जब AI भाषण का द्वारपाल बन जाता है

इंटरनेट के शुरुआती दिनों के विपरीत, जब "रॉ" टिप्पणियों को स्वतंत्र रूप से प्रवाहित होने की अनुमति थी, अब अधिकांश प्रमुख प्लेटफ़ॉर्म सामग्री फ़िल्टरिंग की ज़िम्मेदारी कृत्रिम बुद्धिमत्ता को सौंप देते हैं। मशीन लर्निंग की बदौलत, सिस्टम प्रतिदिन लाखों पंक्तियों के टेक्स्ट को स्कैन कर सकते हैं, भाषा, लहजे और यहाँ तक कि "संदर्भ" का मूल्यांकन करके यह तय कर सकते हैं कि उन्हें रखना है या हटाना है।

हालाँकि, यह प्रणाली हमेशा सटीक नहीं होती।

सुश्री एनगोक वी (एचसीएमसी) ने बताया: "किसी उत्पाद के बारे में मेरी टिप्पणी बिना किसी कारण के छिपा दी गई। कोई गाली-गलौज नहीं, कोई स्पैम नहीं, बस एक टिप्पणी थी जो कुछ सेकंड बाद गायब हो गई।"

कई सामग्री सिर्फ़ इसलिए हटा दी जाती है क्योंकि उनमें संवेदनशील शब्दों का इस्तेमाल बिल्कुल सामान्य संदर्भ में किया गया है। "गरीबी," "भूख," "नीति," या "व्यवस्था" जैसे वाक्यांशों को कभी-कभी नकारात्मक समझ लिया जाता है, अगर मशीन वाक्य के भाव को "पढ़" नहीं पाती।

आलोचना को फ़िल्टर करें या ख़त्म करें?

एल्गोरिद्मवॉच (जर्मनी) की चेतावनी के अनुसार, स्वचालित सेंसरशिप प्रणालियां अनजाने में असहमति की आवाजों को खत्म कर सकती हैं, विशेष रूप से वंचित या अल्पसंख्यक समूहों से, क्योंकि ये प्रणालियां बहुसंख्यकों के व्यवहार से सीखती हैं, जो संस्कृति और दृष्टिकोण के मामले में पर्याप्त रूप से विविध नहीं हैं।

वियतनाम में, सोशल मीडिया प्लेटफ़ॉर्म द्वारा सामग्री पर सख्त नियंत्रण आम होता जा रहा है, खासकर अत्यधिक इंटरैक्टिव समाचार साइटों पर। समसामयिक और सामाजिक मुद्दों पर टिप्पणियों को अक्सर प्रदर्शित करने पर प्रतिबंध लगा दिया जाता है, या उन्हें "पूर्व-अनुमोदित" होना पड़ता है, जिससे कई लोग पूछते हैं: क्या साइबरस्पेस में अभी भी अभिव्यक्ति की स्वतंत्रता है?

चिंता की बात यह है कि उपयोगकर्ताओं को शायद ही पता चलता है कि टिप्पणियाँ क्यों छिपाई या हटाई जा रही हैं। कोई सूचना नहीं है, कोई पारदर्शी प्रतिक्रिया तंत्र नहीं है। सब कुछ चुपचाप होता है, और एल्गोरिदम से चलने वाली दुनिया में, चुप्पी सेंसरशिप का सबसे सूक्ष्म रूप हो सकती है।

इंटरनेट को साफ़ रखें लेकिन बातचीत को छुपाएँ नहीं

स्वच्छ साइबरस्पेस का मतलब बाँझपन नहीं होना चाहिए। समाज एक ऐसी जगह है जहाँ अलग-अलग राय व्यक्त की जाती हैं, रचनात्मक, आलोचनात्मक और बहस योग्य होती हैं। हमें विषाक्त भाषणों को फ़िल्टर करने के लिए एल्गोरिदम की ज़रूरत है, लेकिन हमें मतभेद के अधिकार, सवाल करने के अधिकार और असुविधाओं को उठाने के अधिकार की भी रक्षा करनी होगी।

जब प्रत्येक टिप्पणी को "मॉडरेट" करना होता है, तो हमें पूछना होगा: क्या प्रौद्योगिकी समुदाय की सुरक्षा कर रही है या समुदाय को क्या सुनने की अनुमति है, उसे फ़िल्टर कर रही है?

मूल्यवान निर्णय लेने में तकनीक इंसानों की जगह नहीं ले सकती। और एआई के युग में, पारदर्शिता और फीडबैक का अधिकार पूरे सिस्टम के लिए सबसे निष्पक्ष "एल्गोरिदम" हैं।

प्रौद्योगिकी को लोगों को बोलने में मदद करनी चाहिए, न कि यह तय करना चाहिए कि उनके लिए क्या कहा जाए।

दो दिमाग

स्रोत: https://tuoitre.vn/khi-ai-quyet-dinh-ban-duoc-noi-gi-tren-mang-20250701231035288.htm