OpenAI ने ChatGPT पर 18+ मोड सक्षम किया: नाबालिगों की सुरक्षा कैसे करें?

ओपनएआई दिसंबर 2025 से सत्यापित उपयोगकर्ताओं को वयस्क सामग्री तक पहुंच की अनुमति देगा, जिससे एक नया बाजार खुलेगा लेकिन नाबालिगों की सुरक्षा के संबंध में एक बड़ी चुनौती भी खड़ी होगी।

बच्चों के लिए आयु सत्यापन और सुरक्षा संबंधी चेतावनियों के साथ वयस्क चैटबॉट।

ओपनएआई द्वारा यह पुष्टि करना कि वह दिसंबर 2025 से चैटजीपीटी पर सत्यापित वयस्क उपयोगकर्ताओं को वयस्क सामग्री तक पहुंचने की अनुमति देगा, उद्योग के लिए एक महत्वपूर्ण मील का पत्थर माना जाता है, जो बाजार के विकास को बढ़ावा देने के साथ-साथ नाबालिगों की सुरक्षा के लिए एक नया मानक स्थापित करता है।

वयस्क चैटबॉट - एआई के लिए नया रेस ट्रैक।

एआई प्लेटफॉर्म ने अंतरंग बातचीत से लेकर भावनात्मक समर्थन तक, वयस्कों की जरूरतों को पूरा करने के लिए तेजी से मॉडल तैनात किए हैं।

सीईओ सैम ऑल्टमैन के अनुसार, मानसिक स्वास्थ्य संबंधी जोखिमों से बचने के लिए चैटजीपीटी को पहले "कड़ी पाबंदियों" के साथ रखा गया था, लेकिन इस दृष्टिकोण ने कई उपयोगकर्ताओं के लिए मॉडल को "कम उपयोगी और कम आकर्षक" बना दिया। उन्होंने कहा कि ओपनएआई अब "वयस्कों के साथ वयस्कों जैसा व्यवहार करने" के सिद्धांत की ओर बढ़ रहा है।

सत्यापित उपयोगकर्ताओं के लिए नियंत्रित पहुंच मोड को शामिल करने से पहले से ही तेजी से बढ़ते वयस्क चैटबॉट बाजार में और अधिक जीवंतता आ गई है।

हाल ही में अंतरराष्ट्रीय मीडिया द्वारा एलोन मस्क की xAI की सेलिब्रिटी से संबंधित वयस्क सामग्री बनाने की क्षमता पर सवाल उठाए जाने के बाद प्रतिस्पर्धी परिदृश्य और भी स्पष्ट हो गया है, जिससे नए सुरक्षा मानकों की तत्काल मांग उठ रही है।

आयु सत्यापन की "समस्या"।

वयस्क सामग्री तक पहुंच खोलने से एक बड़ी चुनौती खड़ी होती है: उपयोगकर्ता की आयु का सत्यापन। पहचान दस्तावेजों का उपयोग करके सत्यापन उच्च विश्वसनीयता प्रदान करता है, लेकिन इससे गोपनीयता और व्यक्तिगत डेटा सुरक्षा को खतरा रहता है। वहीं, कृत्रिम बुद्धिमत्ता पर आधारित व्यवहारिक या भाषा-आधारित सत्यापन विधियों के लिए बड़े डेटासेट, परिष्कृत मॉडल की आवश्यकता होती है और फिर भी उपयोगकर्ताओं द्वारा इन्हें दरकिनार किए जाने का जोखिम बना रहता है।

एआई द्वारा सामग्री निर्माण की विशेषताओं से यह चुनौती और भी बढ़ जाती है। चैटबॉट वास्तविक समय में नई जानकारी उत्पन्न कर सकते हैं, संवेदनशील तरीकों से बातचीत को आगे बढ़ा सकते हैं, या अस्पष्ट अनुरोधों को अनुचित सामग्री में बदल सकते हैं।

जब मॉडल इमेज, ऑडियो और वीडियो निर्माण जैसे कई मीडिया को सपोर्ट करता है, तो जोखिम नाटकीय रूप से बढ़ जाते हैं। नाबालिगों से संबंधित संवेदनशील सामग्री को, चाहे वह नकली रूप में ही क्यों न हो, अनुकरण या संश्लेषित करने की किसी भी क्षमता को पूरी तरह से रोका जाना चाहिए। इसके लिए डेवलपर्स को मॉडल डिज़ाइन स्तर से लेकर सामग्री फ़िल्टरिंग स्तर तक नियंत्रण तंत्र स्थापित करने की आवश्यकता होती है।

एआई व्यवसायों पर जिम्मेदारी का दबाव।

ओपनएआई द्वारा वयस्क सामग्री मोड को सक्रिय करने की खबर ने कई बाल संरक्षण संगठनों के बीच चिंता पैदा कर दी है। वे चेतावनी देते हैं कि एआई का उपयोग करके वयस्क सामग्री को वैध बनाना अनजाने में नाबालिगों को "सीमा पार करने" के तरीके खोजने के लिए प्रोत्साहित कर सकता है।

वियतनाम में, कई अभिभावकों ने इस बात पर चिंता व्यक्त की है कि चैटजीपीटी जैसे पारंपरिक रूप से सीखने से जुड़े एक प्लेटफॉर्म ने वयस्कों के लिए एक मोड पेश किया है।

इन दबावों के कारण एआई कंपनियों को "डिजाइन द्वारा सुरक्षा" के सिद्धांत को पूरी तरह से लागू करने के लिए मजबूर होना पड़ता है: प्रशिक्षण डेटा को नियंत्रित करना, इनपुट और आउटपुट की निगरानी करना, वास्तविक समय के फिल्टर तैनात करना और नियमित ऑडिट तंत्र बनाए रखना।

संचालन में पारदर्शिता, सुरक्षा उपायों का सार्वजनिक प्रकटीकरण और सामुदायिक प्रतिक्रिया की स्वीकृति, कमजोर उपयोगकर्ता समूहों के लिए जोखिम पैदा किए बिना वयस्कों के लिए एक सुरक्षित वातावरण बनाने के लिए अनिवार्य आवश्यकताएं बनती जा रही हैं।

ओपनएआई द्वारा सत्यापित उपयोगकर्ताओं को वयस्क सामग्री तक पहुंच की अनुमति देने का निर्णय न केवल एक व्यावसायिक उपलब्धि है, बल्कि यह इस बात की भी याद दिलाता है कि तकनीकी नवाचार के साथ-साथ जिम्मेदार मानक भी होने चाहिए।

एआई इकोसिस्टम के सतत रूप से फलने-फूलने के लिए, व्यवसायों को सुरक्षा को प्राथमिकता देने की आवश्यकता है, नवाचार और समुदाय की रक्षा करने की जिम्मेदारी के बीच संतुलन बनाए रखना होगा।

गीत त्रि

स्रोत: https://tuoitre.vn/openai-bat-che-do-18-บน-chatgpt-lam-sao-bao-ve-tre-vi-thanh-nien-2025121111362172.htm