कृत्रिम बुद्धिमत्ता से संबंधित जोखिमों का आकलन करने के लिए एक तंत्र की आवश्यकता है।

27 नवंबर की दोपहर को, राष्ट्रीय सभा के उपाध्यक्ष ले मिन्ह होआन की अध्यक्षता में, राष्ट्रीय सभा के सांसदों ने पूर्ण सत्र में कृत्रिम बुद्धिमत्ता पर कानून के मसौदे पर चर्चा की।

एआई-जनित उत्पादों को लेबल करना

27 नवंबर की दोपहर को राष्ट्रीय सभा का एक दृश्य। फोटो: क्वांग फुक

आधुनिक जीवन में एआई के लिए जोखिम नियंत्रण तंत्र की आवश्यकता पर जोर देते हुए, राष्ट्रीय सभा के सांसद गुयेन टैम हंग (हो ची मिन्ह सिटी) ने कहा कि एआई सामग्री की मशीन-पठनीय मार्किंग सुनिश्चित करने के लिए प्रदाताओं को बाध्य करने वाला मसौदा कानून आवश्यक है; हालांकि, उन्होंने सुझाव दिया कि जब सामग्री से भ्रम पैदा होने की संभावना हो, तो पहचान संबंधी जानकारी को सीधे इंटरैक्टिव इंटरफ़ेस पर प्रदर्शित करने की अनिवार्य आवश्यकता को शामिल करने पर विचार किया जाना चाहिए, ताकि आम उपयोगकर्ताओं, विशेष रूप से बच्चों और बुजुर्गों को गलत सूचना और परिष्कृत जालसाजी के जोखिम से बचाया जा सके। यह विनियमन प्रौद्योगिकी प्रदाताओं की सामाजिक जिम्मेदारी को बढ़ाता है और लोगों के बीच डिजिटल विश्वास का निर्माण करता है।

इसके अतिरिक्त, प्रतिनिधि गुयेन टैम हंग ने कहा कि शोध के माध्यम से उन्होंने पाया कि वर्तमान बहुउद्देशीय एआई मॉडल न केवल पाठ या चित्र बनाते हैं, बल्कि स्रोत कोड, आक्रमण उपकरण, निष्पादन निर्देश, साइबर हमले की प्रक्रियाएं और वित्तीय धोखाधड़ी के तरीके भी उत्पन्न कर सकते हैं। इसलिए, प्रतिनिधि ने स्रोत कोड निर्माण की अनुमति देते समय मॉडल की "स्वयं उत्पन्न करने की क्षमता" को नियंत्रित करने की आवश्यकता जोड़ने का प्रस्ताव दिया। उन्होंने सुझाव दिया कि साइबर सुरक्षा और सामाजिक व्यवस्था एवं सुरक्षा सुनिश्चित करने के लिए चेतावनी, अवरोधन और आउटपुट को सीमित करने के तंत्र आवश्यक हैं।

प्रतिनिधि गुयेन टैम हंग (हो ची मिन्ह सिटी)। फोटो: क्वांग फुक

कृत्रिम बुद्धिमत्ता से उत्पन्न होने वाले जोखिमों के संबंध में, राष्ट्रीय सभा के उप-सभापति फाम वान होआ ( डोंग थाप ) ने कहा कि यद्यपि कृत्रिम बुद्धिमत्ता तकनीक मनुष्यों की सहायता करने का एक उपकरण है, लेकिन यह कई गंभीर जोखिम भी लाती है; उप-सभापति ने मसौदा समिति से इस मामले का वस्तुनिष्ठ और सटीक मूल्यांकन करने का अनुरोध किया।

प्रतिनिधि फाम वान होआ ने कहा, "ये जोखिम मानव जीवन, संपत्ति, अधिकारों और संगठनों एवं व्यक्तियों के वैध हितों को प्रभावित कर सकते हैं," और उन्होंने आगे कहा कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित उत्पादों पर लेबल लगाना आवश्यक है। उनके अनुसार, उत्पादों पर एआई का लेबल लगाने से लोग एआई द्वारा निर्मित उत्पादों और गैर-प्रजनित उत्पादों के बीच अंतर कर सकेंगे।

प्रतिनिधि फाम वान होआ (डोंग थाप)। फोटो: क्वांग फुक

इस बीच, राष्ट्रीय सभा की उप-प्रतिनिधि ट्रिन्ह थी तू अन्ह ( लाम डोंग ) ने तर्क दिया कि मसौदा कानून का अनुच्छेद 11 तकनीकी प्रभावों पर आधारित जोखिम मूल्यांकन दृष्टिकोण को पूरी तरह से प्रतिबिंबित नहीं करता है। उनके अनुसार, वर्तमान संदर्भ में, कृत्रिम बुद्धिमत्ता (एआई) पहले से अज्ञात हानिकारक तरीके विकसित कर सकती है। इसलिए, उप-प्रतिनिधि ट्रिन्ह थी तू अन्ह ने एक प्रावधान जोड़ने का प्रस्ताव दिया जिसमें कहा गया है: "सरकार जोखिम मूल्यांकन, तकनीकी रुझानों और व्यावहारिक प्रबंधन आवश्यकताओं के आधार पर अस्वीकार्य जोखिम वाले कृत्रिम बुद्धिमत्ता प्रणालियों की सूची को विस्तृत नियमों के रूप में तैयार करेगी और समय-समय पर अद्यतन और पूरक करेगी।" उनका मानना ​​है कि यह तंत्र सुनिश्चित करता है कि कानून पुराना न हो जाए और नए खतरों का तुरंत जवाब दे सके।

कृत्रिम बुद्धिमत्ता के दुरुपयोग से बचें।

प्रतिनिधि ट्रान खान थू (हंग येन) ने चिकित्सा परीक्षण और उपचार में एआई के उपयोग का मुद्दा उठाया और तर्क दिया कि एआई न केवल स्वास्थ्य सेवा उद्योग में प्रक्रियाओं को बेहतर बनाने और डॉक्टरों व चिकित्सा पेशेवरों के कार्यभार को कम करने में मदद करता है, बल्कि उपचार को व्यक्तिगत रूप देने में भी महत्वपूर्ण भूमिका निभाता है, जिससे स्वास्थ्य परिणामों में सुधार होता है और संसाधनों का कुशल उपयोग बढ़ता है। हालांकि, स्वास्थ्य लक्षणों की पहचान के लिए एआई का उपयोग कभी-कभी प्रतिकूल भी हो सकता है।

प्रतिनिधि त्रान खान थू (हंग येन)। फोटो: क्वांग फुक

महिला प्रतिनिधि ने हो ची मिन्ह सिटी के एक 55 वर्षीय मरीज का वास्तविक उदाहरण दिया, जो अस्पताल पहुंचने पर अर्ध-चेतन अवस्था में था। इससे पहले, मरीज के परिवार ने निदान के लिए कृत्रिम बुद्धिमत्ता का उपयोग किया था और फिर मरीज के लिए दवा खरीदी थी। दवा लेने के बाद मरीज की हालत बिगड़ गई, और अस्पताल ले जाने पर पता चला कि उसे मस्तिष्क क्षति और स्ट्रोक हुआ है, जिसके परिणामस्वरूप स्थायी परिणाम भुगतने पड़ सकते हैं।

“किसी को भी निदान या दवा लिखने के लिए खोज परिणामों का उपयोग नहीं करना चाहिए। लेकिन क्या एआई प्रिस्क्रिप्शन के आधार पर दवाएं बेचने वाले कानून का उल्लंघन कर रहे हैं?”, सांसद ट्रान खान थू ने सवाल उठाया और उम्मीद जताई कि कृत्रिम बुद्धिमत्ता संबंधी कानून के मसौदे में स्वास्थ्य सेवा में कृत्रिम बुद्धिमत्ता उत्पादों के प्रबंधन के लिए, विशेष रूप से संबंधित पक्षों की जिम्मेदारियों के संबंध में, अधिक विशिष्ट कानूनी ढांचे के प्रावधान शामिल होंगे।

मसौदा कानून में पोस्ट-ऑडिट से प्री-ऑडिट में बदलाव के संबंध में, प्रतिनिधि ट्रान खान थू ने सुझाव दिया कि स्पष्ट मात्रात्मक सीमाएं होनी चाहिए, उदाहरण के लिए, जब मॉडल एल्गोरिदम बदलता है, उपयोगकर्ता आधार बढ़ता है, या प्रशिक्षण डेटा एक विशिष्ट सीमा से अधिक हो जाता है।

प्रतिनिधि फाम ट्रोंग नघिया (लैंग सोन)। फोटो: क्वांग फुक

कृत्रिम बुद्धिमत्ता के दुरुपयोग पर टिप्पणी करते हुए, राष्ट्रीय सभा के उप-प्रतिनिधि फाम ट्रोंग न्गिया (लैंग सोन) ने तर्क दिया कि दैनिक जीवन में कृत्रिम बुद्धिमत्ता पर अत्यधिक निर्भरता से आलोचनात्मक सोच और रचनात्मकता कम हो जाएगी। उन्होंने आगे कहा कि कृत्रिम बुद्धिमत्ता के दुरुपयोग से कई संभावित समस्याएं उत्पन्न हो सकती हैं, जैसे: राष्ट्रीय संप्रभुता का उल्लंघन, सार्वजनिक प्रशासन की प्रभावशीलता में कमी और व्यक्तियों और परिवारों, विशेष रूप से युवा पीढ़ी पर नकारात्मक प्रभाव।

“सार्वजनिक क्षेत्र के लिए, कृत्रिम बुद्धिमत्ता का दुरुपयोग नीतियों और कानूनों की व्यावहारिकता, मानवता और प्रभावशीलता को कम करता है। संवेदनशील जानकारी और डेटा को कृत्रिम बुद्धिमत्ता को प्रदान करना, यदि सख्ती से नियंत्रित नहीं किया जाता है, तो डेटा लीक का कारण बन सकता है, जिससे राष्ट्रीय सुरक्षा और सामाजिक व्यवस्था को अप्रत्याशित परिणामों के साथ नुकसान पहुंच सकता है,” प्रतिनिधि फाम ट्रोंग न्गिया ने कहा, और उन्होंने प्रस्ताव दिया कि मसौदा कानून में सार्वजनिक क्षेत्र में कृत्रिम बुद्धिमत्ता के दुरुपयोग सहित कुछ व्यवहारों को प्रतिबंधित करने वाला प्रावधान शामिल किया जाए।

डू ट्रुंग

स्रोत: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html