इंटरनेट पर मौजूद एआई से संबंधित अनावश्यक सामग्री को साफ करना।

VTV.vn - डिजिटल प्लेटफॉर्म पर एल्गोरिदम द्वारा सस्ते, दोहराव वाले और व्यसनकारी कंटेंट को बढ़ावा दिए जाने के कारण "एआई कचरा" बच्चों के लिए एक नई चुनौती पेश कर रहा है।

एक चेतावनी चिन्ह जिस पर रोबोट बना है और उस पर "एआई स्लोप" लिखा है। (फोटो: रॉयटर्स)

जब कई माता-पिता शिकायत करते हैं कि उनके बच्चे घंटों कंप्यूटर स्क्रीन के सामने बैठ सकते हैं, लेकिन पढ़ाई पर ध्यान केंद्रित करने में उन्हें कठिनाई होती है, तो वे इसे केवल मनोरंजन की आदतों में बदलाव से कहीं अधिक मानते हैं। छोटे, तेज़ गति वाले वीडियो , चटख रंगों और लगातार उत्तेजित करने वाली ध्वनियों के पीछे एक पूरा डिजिटल इकोसिस्टम है जिसे दर्शकों को यथासंभव लंबे समय तक जोड़े रखने के लिए डिज़ाइन किया गया है। चिकित्सा और सार्वजनिक स्वास्थ्य संगठन भी अब इस मुद्दे को इसी नज़रिए से देखते हैं: अब मुद्दा केवल "स्क्रीन के सामने बिताए गए घंटों" का नहीं है, बल्कि सामग्री की गुणवत्ता, उपयोग के संदर्भ और प्लेटफ़ॉर्म के जुड़ाव बनाए रखने के तंत्र का है।

इस संदर्भ में, अंतरराष्ट्रीय बहस में एक नया शब्द तेज़ी से उभर रहा है: "एआई स्लोप," जिसका मोटे तौर पर अनुवाद "एआई कचरा" किया जा सकता है। यह कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग करके बड़े पैमाने पर उत्पादित सामग्री को संदर्भित करता है, जो कम लागत वाली, तेज़ गति वाली होती है और शैक्षिक मूल्य या निरंतरता की तुलना में मात्रा, दर्शक सहभागिता और विज्ञापन राजस्व को प्राथमिकता देती है। महत्वपूर्ण बात यह है कि वर्तमान बहस एआई को एक रचनात्मक उपकरण के रूप में नकारने के उद्देश्य से नहीं है, बल्कि एक विशिष्ट मुद्दे पर केंद्रित है: जब सस्ती, दोहराव वाली और सतही सामग्री को एल्गोरिदम द्वारा बढ़ावा दिया जाता है, तो सबसे संवेदनशील उपयोगकर्ता समूहों पर इसके प्रभाव के लिए कौन जवाबदेह होगा?

अप्रैल 2026 में यह मुद्दा और भी गंभीर हो गया, जब 200 से अधिक संगठनों और विशेषज्ञों ने गूगल और यूट्यूब को पत्र लिखकर बच्चों की सुरक्षा के लिए और अधिक ठोस कदम उठाने का आग्रह किया। उनकी मांगें स्पष्ट थीं: सभी एआई सामग्री पर लेबल लगाना, यूट्यूब किड्स से एआई सामग्री को प्रतिबंधित करना, 18 वर्ष से कम आयु के लोगों को इसके सुझाव न दिखाना, एआई सामग्री को निष्क्रिय करने के लिए माता-पिता नियंत्रण बटन जोड़ना और बच्चों के लिए एआई वीडियो निर्माण में निवेश बंद करना। उस खुले पत्र में, फेयरप्ले ने तर्क दिया कि छोटे बच्चों को लक्षित करने वाले शीर्ष एआई-संचालित चैनल सालाना 4.25 मिलियन डॉलर से अधिक का राजस्व अर्जित करते हैं। इन आंकड़ों के पीछे प्लेटफॉर्म युग का जाना-पहचाना व्यावसायिक तर्क है: जो सस्ता हो, जल्दी तैयार हो सके और दर्शकों को लंबे समय तक जोड़े रखे, उसका प्रसार आसानी से हो जाता है।

2 जुलाई, 2025 को अंकारा, तुर्की में एक फोन पर गूगल का लोगो प्रदर्शित हो रहा है, और उसके पीछे एक कंप्यूटर स्क्रीन पर यूट्यूब का लोगो दिखाई दे रहा है। (एएफपी फोटो)।

माता-पिता को केवल कंटेंट की मात्रा से ही चिंता नहीं है। समस्या यह है कि इससे बचना मुश्किल है। फेयरप्ले अंतरराष्ट्रीय प्रेस के शोध का हवाला देते हुए बताता है कि कोकोमेलन जैसे लोकप्रिय प्रीस्कूल कार्यक्रमों को देखने के बाद, YouTube पर अगले सुझाए गए वीडियो में से लगभग 40% में AI तत्व होते हैं। प्रेस द्वारा उद्धृत एक अन्य अध्ययन से पता चलता है कि नए उपयोगकर्ता खातों को सुझाए गए लगभग 21% शॉर्ट्स AI द्वारा निर्मित घटिया सामग्री हैं; पूरी तरह से AI द्वारा निर्मित 278 चैनलों ने लगभग 63 बिलियन व्यूज़, 221 मिलियन सब्सक्राइबर और अनुमानित 117 मिलियन डॉलर का वार्षिक राजस्व अर्जित किया है। कंटेंट व्यवसाय के दृष्टिकोण से, यह अब कोई "विशेष क्षेत्र" नहीं रह गया है, बल्कि एक वास्तव में लाभदायक उत्पादन लाइन बन गया है।

लेकिन विशेषज्ञ बच्चों पर विशेष ध्यान क्यों दे रहे हैं? सबसे पहले, मौजूदा सबूत बताते हैं कि खुले प्लेटफॉर्म पर छोटे बच्चों द्वारा देखे जाने वाले अधिकांश वीडियो ज़रूरी नहीं कि गुणवत्तापूर्ण शैक्षिक सामग्री हों। कॉमन सेंस मीडिया का कहना है कि 8 वर्ष और उससे कम आयु के बच्चों द्वारा देखे जाने वाले वीडियो में से केवल 5% का ही शैक्षिक मूल्य उच्च होता है, जबकि 75% का शैक्षिक मूल्य न के बराबर या नगण्य होता है। रिपोर्ट यह भी दर्शाती है कि 30% वीडियो में कम से कम हल्की शारीरिक हिंसा होती है, और 20% में आपसी हिंसा जैसे चिढ़ाना, धमकाना या छल-कपट करना शामिल होता है। इसका मतलब है कि "एआई की लहर" से पहले भी, खुले प्लेटफॉर्म पर बच्चों के लिए वीडियो वातावरण पर कड़ी निगरानी की आवश्यकता थी। एआई केवल इस प्रकार की सामग्री के उत्पादन को सस्ता, तेज़ और व्यापक बनाता है।

7 जून, 2025 को पोलैंड के क्राकोव शहर में एक फोन की स्क्रीन पर यूट्यूब किड्स ऐप प्रदर्शित हो रहा है। (फोटो: नूरफोटो, एएफपी)।

फिलहाल, YouTube की प्रतिक्रिया से पर्यवेक्षक पूरी तरह संतुष्ट नहीं हुए हैं। प्लेटफ़ॉर्म पर प्रामाणिक दिखने वाली संकलित या संपादित सामग्री के लिए प्रकटीकरण अनिवार्य है, लेकिन बच्चों के लिए बनाए गए कई एनिमेटेड वीडियो इस आवश्यकता के दायरे से बाहर हैं। WIRED ने बताया है कि छोटे बच्चों के लिए बनाए गए एनिमेटेड वीडियो डीपफेक लेबलिंग नियम से बच निकलते हैं क्योंकि उन्हें "अवास्तविक" माना जाता है, जबकि वास्तव में यही वह सामग्री है जो बच्चों के अनुभवों में गहराई से प्रवेश करती है। यही कारण है कि पैरोकार तर्क देते हैं कि केवल लेबलिंग ही पर्याप्त नहीं है, खासकर तब जब छोटे बच्चे विवरण को समझने के लिए पढ़ना भी नहीं जानते हों। हालांकि, यह ध्यान देने योग्य है कि YouTube ने सार्वजनिक रूप से कहा है कि AI की खामियों को दूर करना 2026 तक उसकी प्राथमिकता है, और परिवारों के लिए निगरानी उपकरण भी जोड़े जा रहे हैं।

व्यापक परिप्रेक्ष्य में देखें तो, "एआई सफाई" सिर्फ बच्चों के लिए नहीं है। ऑनलाइन दुनिया एक अलग ही सच्चाई उजागर कर रही है: डिजिटल नुकसान वास्तव में वास्तविक नुकसान में तब्दील हो सकता है। विश्व स्वास्थ्य संगठन/यूरोप की रिपोर्ट के अनुसार, लगभग एक-छठे किशोर ऑनलाइन बदमाशी का शिकार हुए हैं; यूनिसेफ का कहना है कि 30 देशों में एक तिहाई से अधिक युवा साइबर बदमाशी के शिकार हुए हैं। महिलाओं और लड़कियों के लिए, संयुक्त राष्ट्र महिला की रिपोर्ट के अनुसार साइबर बदमाशी 16% से 58% के बीच प्रचलित है, जबकि अंतरराष्ट्रीय अध्ययनों में पाया गया है कि 58% लड़कियां और युवा महिलाएं ऑनलाइन उत्पीड़न का अनुभव करती हैं। जैसे-जैसे एआई फर्जी तस्वीरें, वीडियो और मानहानिकारक सामग्री बनाना सस्ता और तेज़ बनाता जा रहा है, यह जोखिम और भी बढ़ जाता है।

फ्रांस में 3 जनवरी, 2026 को एक किशोर अपने फोन पर वीडियो देख रहा है। (फोटो: रॉयटर्स)।

तो "एआई क्लीनअप" को कैसे समझा जाना चाहिए? अगर हम इसे केवल कुछ आपत्तिजनक वीडियो हटाने के रूप में समझते हैं, तो हम केवल समस्या के लक्षणों का समाधान कर रहे हैं। वास्तव में, हमें उपयोगकर्ताओं तक कचरा पहुंचाने वाली पूरी "प्रणाली" को साफ करने की आवश्यकता है: स्पष्ट लेबलिंग नियम; बच्चों के लिए सुरक्षित डिफ़ॉल्ट डिज़ाइन; देखने के समय को अनुकूलित करने वाले एल्गोरिदम पर निर्भरता कम करना; स्वतंत्र अनुसंधान के लिए खुला डेटा; और प्लेटफार्मों को हानिकारक सामग्री पर अधिक तेज़ी से प्रतिक्रिया देने के लिए बाध्य करना। यूरोपीय डिजिटल सेवा अधिनियम इस दिशा का अनुसरण करते हुए प्रमुख प्लेटफार्मों को नाबालिगों के लिए जोखिम कम करने, उपयोगकर्ताओं को गैर-व्यक्तिगत फ़ीड चुनने की अनुमति देने और बच्चों को लक्षित विज्ञापन प्रतिबंधित करने के लिए बाध्य करता है। पारिवारिक पक्ष पर, YouTube ने निगरानी वाले खातों के लिए शॉर्ट्स स्क्रॉल करने की समय सीमा, ब्रेक रिमाइंडर और सोने के समय के रिमाइंडर भी जोड़े हैं; छोटे बच्चों के खातों के लिए, माता-पिता सामग्री चयन या मैन्युअल वीडियो ब्राउज़िंग का उपयोग कर सकते हैं।

वियतनाम के लिए, इस मुद्दे को घबराहट भरी सोच के बजाय अधिक सतर्कता से देखने की आवश्यकता है। सभी एआई-आधारित सामग्री "बेकार" नहीं होती। लेकिन जब प्लेटफॉर्म दीर्घकालिक मूल्य के बजाय तात्कालिक संतुष्टि को प्राथमिकता देते हैं, जब बच्चों के लिए चेतावनी लेबल स्पष्ट नहीं होते, और जब माता-पिता हर एक वीडियो पर लगातार नज़र रखते हैं, तो समस्या केवल व्यक्तिगत कौशल का मामला नहीं रह जाती। यह प्लेटफॉर्म के मानकों, स्कूलों में डिजिटल सुरक्षा शिक्षा, प्रौद्योगिकी कंपनियों की ज़िम्मेदारी और यहां तक ​​कि सार्वजनिक नियामक ढांचे से भी जुड़ी हुई है।

तेजी से संतृप्त हो रहे और एकत्रित सामग्री से भरे ऑनलाइन वातावरण में, एआई सफाई का मतलब केवल कुछ खराब उत्पादों को साफ करना नहीं है; बल्कि, यह उन तंत्रों को साफ करने का प्रयास है जो लोगों, विशेष रूप से बच्चों के ध्यान को एक अतिशोषित संसाधन में बदल रहे हैं।

स्रोत: https://vtv.vn/don-rac-ai-tren-moi-truong-mang-100260525192558675.htm