ओपनएआई ने काफी विवाद के बाद चैटजीपीटी पर चाइल्ड मॉनिटरिंग फीचर लॉन्च किया

नाबालिगों के साथ कृत्रिम बुद्धिमत्ता की सुरक्षा पर बहुत विवाद के बाद, ओपनएआई ने आधिकारिक तौर पर चैटजीपीटी पर एक बाल नियंत्रण उपकरण जोड़ा।

चैटजीपीटी पर बाल निगरानी सुविधा भी माता-पिता को अपने बच्चों को कृत्रिम बुद्धिमत्ता का उपयोग करने देने में अधिक सुरक्षित महसूस करने में मदद करती है।

आगामी ChatGPT चाइल्ड मॉनिटरिंग टूल को एक हाई-प्रोफाइल मुकदमे के बाद OpenAI द्वारा एक सुरक्षा बदलाव के रूप में देखा जा रहा है। इस सुविधा का उद्देश्य बच्चों द्वारा चैटबॉट्स के साथ चैट करने के जोखिम को कम करना है, साथ ही आर्टिफिशियल इंटेलिजेंस कंपनियों की सामाजिक ज़िम्मेदारी पर भी सवाल उठाना है।

चौंकाने वाले मुकदमे से

पिछले अगस्त में, कैलिफोर्निया के 16 वर्षीय लड़के एडम राइन के परिवार ने ओपनएआई के खिलाफ मुकदमा दायर किया था, जिसमें दावा किया गया था कि चैटजीपीटी ने आत्म-क्षति के निर्देश और मौखिक दुर्व्यवहार प्रदान किया था, जिससे उनके बेटे को आत्महत्या करने से पहले निराशा महसूस हुई थी।

इस मुकदमे से शीघ्र ही हलचल मच गई तथा युवा उपयोगकर्ताओं के लिए कृत्रिम बुद्धिमत्ता की सुरक्षा के बारे में बहस शुरू हो गई।

इससे महत्वपूर्ण प्रश्न उठते हैं: क्या नाबालिगों को बिना निगरानी के चैटजीपीटी का उपयोग करना चाहिए, और जब उत्पाद सीधे युवा उपयोगकर्ताओं के मनोविज्ञान को प्रभावित करता है तो एआई डेवलपर्स की जिम्मेदारी कैसे निर्धारित की जानी चाहिए?

उस दबाव के जवाब में, ओपनएआई ने अभिभावकीय नियंत्रण को जोड़ने की घोषणा की, जो बच्चों की सुरक्षा के लिए अपनी प्रतिबद्धता को प्रदर्शित करने की दिशा में पहला कदम है और यह संकेत देता है कि कंपनी चैटजीपीटी के विकास के अगले चरण में सुरक्षा को प्राथमिकता देने के लिए तैयार है।

ChatGPT पर निगरानी सुविधाएँ

आधिकारिक घोषणा के अनुसार, OpenAI एक ऐसा टूल लॉन्च करेगा जो अभिभावकों को अपने अकाउंट को अपने बच्चों के ChatGPT अकाउंट से लिंक करने की सुविधा देगा। एक बार सक्रिय होने पर, अभिभावक चैट स्टोरेज बंद करने, उपयोग इतिहास नियंत्रित करने और उम्र के अनुसार बातचीत के स्तर को समायोजित करने जैसी महत्वपूर्ण सेटिंग्स प्रबंधित कर सकेंगे।

इस नवाचार का मुख्य आकर्षण अलर्ट सिस्टम है। चैटजीपीटी को यह पहचानने के लिए प्रशिक्षित किया जाएगा कि कब युवा उपयोगकर्ता तनाव, अवसाद या आत्म-क्षति जैसे मनोवैज्ञानिक संकट के लक्षण दिखाते हैं। ऐसे मामलों में, अभिभावकों को तुरंत हस्तक्षेप करने के लिए सूचनाएँ प्राप्त होंगी। ओपनएआई का दावा है कि इसका उद्देश्य पूरी बातचीत पर नज़र रखना नहीं है, बल्कि बच्चों की सुरक्षा के लिए आपातकालीन स्थितियों पर ध्यान केंद्रित करना है।

इसके अतिरिक्त, जब संवेदनशील सामग्री का पता चलता है, तो चैटजीपीटी गहन तर्क मॉडल के साथ काम करना शुरू कर देगा, जो अधिक विचारशील और सहायक प्रतिक्रिया प्रदान करने के लिए डिज़ाइन किए गए हैं। इसके साथ ही, कंपनी आने वाले समय में अपनी सुरक्षा को और बेहतर बनाने के लिए चिकित्सा विशेषज्ञों और एक अंतरराष्ट्रीय सलाहकार बोर्ड के साथ भी काम कर रही है।

चुनौतियाँ

ओपनएआई ने ज़ोर देकर कहा है कि यह नया फ़ीचर परिवारों के फ़ायदे के लिए बनाया गया है, लेकिन अंतरराष्ट्रीय स्तर पर इस पर मिली-जुली प्रतिक्रिया रही है। उम्मीद है कि यह टूल माता-पिता के लिए सुरक्षा की एक परत जोड़ेगा क्योंकि उनके बच्चे आर्टिफिशियल इंटेलिजेंस के साथ इंटरैक्ट करते हैं, लेकिन इसने उपयोग की सीमाओं से लेकर बच्चों के डेटा की गोपनीयता तक, कई पुरानी चिंताएँ भी पैदा की हैं।

दरअसल, बच्चों की डेटा गोपनीयता को लेकर विशेषज्ञ वर्षों से चिंताएँ जताते रहे हैं। ये चेतावनियाँ इस बात पर ज़ोर देती हैं कि बिना किसी सख्त सुरक्षा के बच्चों के चैट इतिहास को संग्रहीत और विश्लेषण करने से संवेदनशील जानकारी के उजागर होने का ख़तरा बढ़ सकता है। चैटजीपीटी पर निगरानी उपकरणों के आगमन ने इस मुद्दे को फिर से सुर्खियों में ला दिया है।

चर्चा का एक और मुद्दा सिस्टम की चेतावनी सीमा पर था। ओपनएआई ने कहा कि चैटजीपीटी गंभीर तनाव के संकेतों का पता लगाएगा और माता-पिता को अलर्ट भेजेगा।

हालाँकि, मशीन लर्निंग में हमेशा पक्षपात का जोखिम रहता है। अगर सिस्टम गलत अलार्म देता है, तो माता-पिता बेवजह भ्रमित हो सकते हैं। इसके विपरीत, अगर यह सिग्नल चूक जाता है, तो बच्चों को ऐसे जोखिम का सामना करना पड़ सकता है कि परिवार समय पर हस्तक्षेप न कर सके।

अंतर्राष्ट्रीय बाल संरक्षण संगठनों ने भी ओपनएआई के कदम पर बारीकी से नजर रखी है, तथा अभिभावकीय नियंत्रण उपकरण को एक सकारात्मक संकेत के रूप में स्वीकार किया है, लेकिन चेतावनी दी है कि सख्त आयु सत्यापन और डिफ़ॉल्ट सुरक्षा की कमी का मतलब है कि माता-पिता की निगरानी के बावजूद भी बच्चों को जोखिम का सामना करना पड़ सकता है।

ये बहसें दर्शाती हैं कि कृत्रिम बुद्धिमत्ता का विकास न केवल एक तकनीकी कहानी है, बल्कि सामाजिक जिम्मेदारी और युवा पीढ़ी की सुरक्षा से भी निकटता से जुड़ा हुआ है।

थान थू

स्रोत: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm