चीन ने एआई चैटबॉट पर पलटवार किया।

नए नियम चीन को एआई चैटबॉट पर नियंत्रण मजबूत करने में मदद करेंगे, जिसका उद्देश्य आत्महत्या, जुआ और अश्लील सामग्री से संबंधित सामग्री को रोकना है।

एआई चैटबॉट उपयोगकर्ताओं की भावनाओं को प्रभावित करने की क्षमता रखते हैं। फोटो: एएफपी ।

चीन मानव भावनाओं को प्रभावित करने में सक्षम कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट पर नियंत्रण कड़ा करने की योजना बना रहा है, विशेष रूप से उन चैटबॉट पर जिनमें आत्महत्या, आत्महानि या अन्य हानिकारक व्यवहारों को बढ़ावा देने वाली सामग्री होती है। यह कदम 27 दिसंबर को चीन के साइबरस्पेस प्रशासन द्वारा जारी किए गए नए नियमों के मसौदे में उल्लिखित है।

सीएनबीसी द्वारा किए गए दस्तावेज़ के अनुवाद के अनुसार , इस मसौदे का लक्ष्य "मानव-समान इंटरैक्टिव कृत्रिम बुद्धिमत्ता सेवाओं" पर है, जिसका अर्थ है ऐसी एआई प्रणालियाँ जो पाठ, छवियों, ऑडियो या वीडियो के माध्यम से मानव व्यक्तित्व, व्यवहार और संचार की नकल करने में सक्षम हों। अंतिम रूप दिए जाने के बाद ये नियम चीन में सार्वजनिक रूप से पेश किए जाने वाले सभी एआई उत्पादों और सेवाओं पर लागू होंगे। सार्वजनिक टिप्पणी अवधि 25 जनवरी तक है।

न्यूयॉर्क विश्वविद्यालय (एनवाईयू) लॉ स्कूल के विजिटिंग प्रोफेसर विंस्टन मा का मानना ​​है कि यह "मानव-समान" विशेषताओं वाले एआई सिस्टम के लिए विशेष रूप से कानूनी ढांचा स्थापित करने का विश्व का पहला प्रयास हो सकता है। उनका कहना है कि यह प्रस्ताव ऐसे समय में आया है जब चीनी कंपनियां एआई वर्चुअल असिस्टेंट के विकास में तेजी ला रही हैं।

श्री मा का मानना ​​है कि 2023 में जारी किए गए चीन के एआई नियमों की तुलना में, नया मसौदा "सामग्री सुरक्षा" से "भावनात्मक सुरक्षा" की ओर ध्यान केंद्रित करने में बदलाव दिखाता है, जो उपयोगकर्ताओं पर एआई के मनोवैज्ञानिक प्रभाव के बारे में बढ़ती चिंता को दर्शाता है।

मसौदा नियमों में कहा गया है कि एआई चैटबॉट को ऐसी सामग्री नहीं बनानी चाहिए जो आत्महत्या, आत्म-हानि या मौखिक हिंसा को बढ़ावा दे, न ही किसी भी प्रकार का भावनात्मक हेरफेर करना चाहिए जिससे मानसिक स्वास्थ्य को नुकसान पहुंचे। यदि कोई उपयोगकर्ता आत्महत्या करने का इरादा व्यक्त करता है, तो प्रौद्योगिकी सेवा प्रदाता को किसी अन्य व्यक्ति को बातचीत का नियंत्रण सौंपना होगा और तुरंत उपयोगकर्ता के अभिभावक या नामित व्यक्ति से संपर्क करना होगा।

इसके अलावा, एआई चैटबॉट को जुआ, अश्लील सामग्री या हिंसा से संबंधित सामग्री बनाने की अनुमति नहीं है। नाबालिगों को केवल अभिभावक की सहमति से भावनात्मक सहायता के लिए एआई का उपयोग करने की अनुमति है और उन्हें समय सीमा का पालन करना होगा।

चीन एआई चैटबॉट पर नियमों को सख्त कर रहा है। फोटो: ब्लूमबर्ग ।

यह प्रस्ताव दिसंबर में हांगकांग में दो प्रमुख चीनी एआई चैटबॉट स्टार्टअप, जेड.एआई और मिनिमैक्स द्वारा प्रारंभिक सार्वजनिक पेशकश (आईपीओ) के लिए आवेदन करने के तुरंत बाद घोषित किया गया था।

मिनिमैक्स अपने टॉकी एआई ऐप और इसके घरेलू संस्करण, जिंग्ये के लिए जानी जाती है, जिसने वर्ष की पहली तीन तिमाहियों में कंपनी के राजस्व के एक तिहाई से अधिक का योगदान दिया, जिसमें औसतन 2 करोड़ से अधिक मासिक सक्रिय उपयोगकर्ता हैं। वहीं, Z.ai (ज़िपु) ने बताया कि उसकी तकनीक लगभग 8 करोड़ उपकरणों पर तैनात की गई है, हालांकि उसने सक्रिय उपयोगकर्ताओं की सटीक संख्या का खुलासा नहीं किया।

वैश्विक संदर्भ में, मानव मानसिक स्वास्थ्य पर कृत्रिम बुद्धिमत्ता के प्रभाव पर increasingly ध्यान दिया जा रहा है, क्योंकि कई देश और प्रौद्योगिकी कंपनियां इस तकनीक द्वारा उत्पन्न सामाजिक जोखिमों का सामना करना शुरू कर रही हैं।

स्रोत: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html