कृत्रिम बुद्धिमत्ता पर मसौदा कानून: चिकित्सा में कृत्रिम बुद्धिमत्ता का निरीक्षण चिकित्सा उपकरणों की तरह किया जाना चाहिए

यह देखते हुए कि स्वास्थ्य सेवा एक संवेदनशील, उच्च जोखिम वाला क्षेत्र है, जिस पर सख्ती से नियंत्रण की आवश्यकता है, जिसमें एआई का अनुप्रयोग भी शामिल है, कुछ प्रतिनिधियों ने सुझाव दिया कि कृत्रिम बुद्धिमत्ता पर मसौदा कानून में उन विनियमों का अध्ययन किया जाना चाहिए कि स्वास्थ्य सेवा में एआई का निरीक्षण चिकित्सा उपकरणों की तरह किया जाना चाहिए।

आर्टिफिशियल इंटेलिजेंस कानून परियोजना पर हॉल में चर्चा सत्र का दृश्य

स्वास्थ्य सेवा के लिए AI उत्पादों का प्रबंधन

स्वास्थ्य क्षेत्र में काम करने वाले एक प्रतिनिधि के रूप में, नेशनल असेंबली के डिप्टी ट्रान खान थू ( हंग येन ) ने स्वास्थ्य क्षेत्र में कृत्रिम बुद्धिमत्ता (एआई) के प्रभावों की अत्यधिक सराहना की - एआई अनुप्रयोग के लिए सबसे अधिक क्षमता वाले क्षेत्रों में से एक, जिसका निदान, उपचार, रोगी प्रबंधन के साथ-साथ दवा अनुसंधान और विकास की प्रक्रिया पर स्पष्ट प्रभाव पड़ता है।

हालाँकि, हाल ही में, हो ची मिन्ह सिटी में एक 55 वर्षीय मरीज़ को अपने आस-पास की स्थिति से बेखबर, सुस्त हालत में आपातकालीन कक्ष में लाया गया। मरीज़ की बेटी ने बताया कि उसने पहले भी अपनी माँ को चक्कर आते और साँस लेने में तकलीफ़ महसूस करते देखा था, इसलिए उसने एआई से उनका निदान करने के लिए कहा। जाँच से पता चला कि उन्हें उच्च रक्तचाप की समस्या थी।

नेशनल असेंबली के डिप्टी ट्रान खान थू (हंग येन) बोलते हैं

प्रतिनिधि ने बताया कि बेटे ने अपनी माँ का रक्तचाप नापा और देखा कि वह सचमुच बढ़ गया था, इसलिए वह अपनी माँ के लिए दवा लेने फार्मेसी गया। लेकिन दवा लेने के बाद, माँ की हालत बिगड़ गई, वह थक गई, बहुत उल्टी करने लगी और बेहोश हो गई, इसलिए वह उसे आपातकालीन कक्ष में ले गया। अस्पताल में, डॉक्टर ने पुष्टि की कि मरीज़ को मस्तिष्क क्षति और स्ट्रोक हुआ है। हालाँकि उसे गंभीर अवस्था से बचा लिया गया था, लेकिन परिणाम अपरिहार्य थे।

प्रतिनिधि ने स्पष्ट रूप से कहा कि आजकल इंटरनेट बहुत लोकप्रिय है, विशेष रूप से एआई, जो उन रोगियों के लिए सूचना का एक बहुत अच्छा स्रोत है जो अपनी बीमारी के बारे में अधिक जानना चाहते हैं... हालांकि, लोग अपने लिए दवा खोजने, निदान करने या निर्धारित करने के लिए परिणामों का उपयोग बिल्कुल नहीं कर सकते हैं - और क्या एआई नुस्खों के अनुसार दवा बेचने वाले लोग कानून तोड़ रहे हैं? - प्रतिनिधि ने यह मुद्दा उठाया।

प्रतिनिधि ने यह भी बताया कि स्वास्थ्य सेवा में एआई के अनुप्रयोग के लिए हमारे पास कोई विशिष्ट और पूर्ण कानूनी ढाँचा नहीं है। हालाँकि चिकित्सा परीक्षण और उपचार कानून या फार्मेसी कानून जैसे कानूनों ने चिकित्सा परीक्षण और उपचार गतिविधियों और चिकित्सा उत्पादों को विनियमित किया है, लेकिन चिकित्सा में एआई-अनुप्रयुक्त उत्पादों पर विशिष्ट नियम अभी भी अस्पष्ट हैं।

इसके अलावा, एआई-आधारित चिकित्सा परीक्षण और उपचार उत्पाद अभी भी चिकित्सा उपकरणों के लिए सामान्य लाइसेंसिंग प्रक्रियाओं के अधीन हैं, तथा उन उत्पादों के लिए विशिष्ट एआई मानकों और विनियमों का अभाव है।

चर्चा सत्र में भाग लेने वाले प्रतिनिधि

प्रतिनिधि ने जोर देकर कहा, "इसके अलावा, एआई त्रुटियों के मामले में कानूनी दायित्व और चिकित्सा डेटा सुरक्षा और रोगी सुरक्षा जैसे कुछ मुद्दे वर्तमान कानूनी दस्तावेजों में स्पष्ट रूप से विनियमित नहीं हैं।"

उपरोक्त वास्तविकता के आधार पर, प्रतिनिधि ट्रान खान थू को उम्मीद है कि कृत्रिम बुद्धिमत्ता पर मसौदा कानून में स्वास्थ्य सेवा के लिए एआई उत्पादों के प्रबंधन के लिए अधिक विशिष्ट प्रावधान, शर्तें और कानूनी रूपरेखा होगी, विशेष रूप से संबंधित पक्षों की जिम्मेदारियां।

स्वास्थ्य सेवा एक संवेदनशील और उच्च जोखिम वाला क्षेत्र है, इसलिए एआई के प्रयोग पर सख्त नियंत्रण की आवश्यकता है। नेशनल असेंबली के प्रतिनिधि ले वान खाम (हो ची मिन्ह सिटी) ने सुझाव दिया कि नियमों का अध्ययन आवश्यक है। स्वास्थ्य सेवा में एआई का निरीक्षण चिकित्सा उपकरणों की तरह ही किया जाना चाहिए। जब ​​एआई नैदानिक ​​निर्णय लेने में सहायक हो, तो निरीक्षण की कुछ अनिवार्य श्रेणियाँ होती हैं, जैसे: एआई निदान, मृत्यु या जटिलताओं के जोखिम की भविष्यवाणी करने वाला एआई, एआई का उपयोग करने वाले सर्जिकल रोबोट, और एआई द्वारा नुस्खे या उपचार के नियमों का समर्थन।

इसके अलावा, प्रतिनिधियों ने सुझाव दिया कि रोगी सुरक्षा सुनिश्चित करने के लिए स्वास्थ्य सेवा में एआई के प्रसार की निगरानी के लिए नियम होने चाहिए, जैसे कि आवधिक रिपोर्टिंग, त्वरित घटना चेतावनी, एल्गोरिथम ऑडिटिंग और वास्तविक समय त्रुटि निगरानी पर नियम। जब इस कानून में सैद्धांतिक नियम होंगे, तो सक्षम प्राधिकारी उन्हें लागू करने के लिए उप-कानून दस्तावेज़ जारी करेगा, साथ ही चिकित्सा एआई प्रशासन में प्रबंधन उपकरण और उचित उपाय भी बनाएगा।

बैठक का दृश्य। फोटो: क्वांग खान

प्रतिनिधि ले वान खाम ने सुझाव दिया कि इसके साथ ही, मसौदा तैयार करने वाली एजेंसी को आपूर्तिकर्ताओं को चिकित्सा में एआई के लिए जोखिमों को स्वयं वर्गीकृत करने की अनुमति देने पर सावधानीपूर्वक विचार करने की आवश्यकता है, जैसा कि मसौदा कानून के अनुच्छेद 9 में निर्धारित किया गया है।

उच्च जोखिम वाले AI परिनियोजन के डेटा प्रभाव का आकलन

इस बात पर ज़ोर देते हुए कि जोखिम वर्गीकरण कृत्रिम बुद्धिमत्ता कानून की आत्मा है, राष्ट्रीय सभा के उपसभापति थैच फुओक बिन्ह (विन्ह लोंग) ने कहा कि मसौदा कानून में अभी तक मात्रात्मक वर्गीकरण मानदंड प्रदान नहीं किए गए हैं। उच्च जोखिम वाली कृत्रिम बुद्धिमत्ता प्रणालियों की सूची को अपेक्षाकृत व्यापक रूप से विनियमित किया जा रहा है, जिसमें वे क्षेत्र भी शामिल हैं जहाँ व्यवहार में कोई महत्वपूर्ण जोखिम सामने नहीं आया है। इससे अनावश्यक अनुपालन बोझ पैदा हो सकता है, खासकर छोटे और मध्यम आकार के उद्यमों के लिए।

नेशनल असेंबली के प्रतिनिधि थाच फुओक बिन्ह (विन्ह लॉन्ग) बोलते हुए। फोटो: फाम थांग

इसलिए, प्रतिनिधियों ने सुझाव दिया कि उच्च-जोखिम सूची की समीक्षा करके केवल उन प्रणालियों पर ध्यान केंद्रित करना आवश्यक है जिनका मानवाधिकार, गोपनीयता, स्वास्थ्य, वित्त और सामाजिक सुरक्षा पर गहरा प्रभाव पड़ सकता है। साथ ही, विशेषज्ञों, उद्योग संघों और अनुसंधान संगठनों के परामर्श के आधार पर उच्च-जोखिम सूची को लचीले ढंग से अद्यतन करने के लिए एक तंत्र स्थापित किया जाना चाहिए। मॉडल की तकनीकी विशेषताओं, जैसे स्वचालन, स्व-शिक्षण क्षमता, अप्रत्याशितता और उपयोग के पैमाने, के साथ जोखिम मानदंड जोड़ें।

डेटा, गोपनीयता और उपयोगकर्ता सुरक्षा के संबंध में, प्रतिनिधि थाच फुओक बिन्ह ने कहा कि डेटा एआई का "ईंधन" है, लेकिन मसौदा कानून के वर्तमान प्रावधान व्यक्तिगत डेटा संरक्षण कानून के अनुरूप नहीं हैं। संवेदनशील डेटा, बच्चों के डेटा और बायोमेट्रिक डेटा के लिए अनुमत प्रसंस्करण के स्तर को स्पष्ट करना आवश्यक है। साथ ही, उच्च-जोखिम वाले एआई को लागू करते समय डेटा के प्रभाव का आकलन करने की बाध्यता को भी जोड़ना आवश्यक है।

एआई उपयोगकर्ताओं के लिए, मसौदा कानून में कुछ बुनियादी अधिकारों का उल्लेख किया गया है, लेकिन अंतर्राष्ट्रीय मानकों के अनुसार अभी भी महत्वपूर्ण अधिकारों का अभाव है, जैसे: पूरी तरह से स्वचालित निर्णयों को अस्वीकार करने का अधिकार या स्पष्टीकरण मांगने का अधिकार। ये अधिकार वित्त, बीमा, स्वास्थ्य या श्रम भर्ती के क्षेत्र में एआई-आधारित निर्णयों से लोगों को नुकसान न पहुँचाने में मदद करने के लिए बहुत महत्वपूर्ण हैं।

विज्ञान एवं प्रौद्योगिकी मंत्री गुयेन मान हंग बैठक में राष्ट्रीय असेंबली के प्रतिनिधियों की राय बताते हुए। फोटो: हो लोंग

प्रतिनिधि ने बताया कि डीपफेक, वॉयस, इमेज और वीडियो जालसाजी के कारण कई घटनाएँ हुई हैं जो सूचना सुरक्षा और गोपनीयता को गंभीर रूप से प्रभावित करती हैं। मसौदा कानून के अनुच्छेद 9 में एआई आउटपुट की लेबलिंग का प्रावधान है, लेकिन कुछ बिंदुओं को स्पष्ट करना अभी भी आवश्यक है, जैसे: किस प्रकार की सामग्री को लेबल किया जाना चाहिए, डिजिटल अनुभव को कम किए बिना उपयोगकर्ताओं की सुरक्षा के लिए किस स्तर की लेबलिंग की जानी चाहिए, और नकली सामग्री का पता लगाने और उसे हटाने में सोशल नेटवर्किंग प्लेटफ़ॉर्म की ज़िम्मेदारी। एक सख्त लेकिन लचीली लेबलिंग व्यवस्था तैयार करना एक अत्यंत आवश्यक कारक है।

प्रतिनिधि ने यह भी कहा कि अनुरूपता मूल्यांकन प्रणाली मसौदा कानून की सबसे तकनीकी विशेषताओं में से एक है। हालाँकि, अगर हम पूर्व-निरीक्षण तंत्र को बहुत ज़्यादा डिज़ाइन करते हैं, तो हम अनजाने में नवाचार में बाधा डाल सकते हैं।

इसलिए, प्रतिनिधि थैच फुओक बिन्ह ने केवल उच्च-जोखिम प्रणालियों के लिए प्रमाणन की आवश्यकता और निम्न-और मध्यम-जोखिम प्रणालियों के लिए स्व-मूल्यांकन की अनुमति देने का प्रस्ताव रखा। अनुरोध-अनुदान तंत्र के निर्माण से बचते हुए, एक स्पष्ट और पारदर्शी मूल्यांकन प्रक्रिया सुनिश्चित करें।

स्रोत: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html