उत्तरदायी कृत्रिम बुद्धिमत्ता प्रणालियों पर अनुसंधान एवं विकास करना।

विज्ञान एवं प्रौद्योगिकी मंत्रालय के अनुसार, दुनिया में प्रचलित प्रवृत्ति के अनुरूप, कृत्रिम बुद्धिमत्ता प्रणालियों का मूल्यांकन लोगों, समाज और वियतनामी अर्थव्यवस्था के लिए अत्यंत लाभकारी होने के लिए किया जाता है, क्योंकि ये लोगों और समुदायों के सामने आने वाली कठिन समस्याओं का समाधान और समर्थन करती हैं। इस प्रक्रिया के साथ-साथ, कृत्रिम बुद्धिमत्ता के विकास और उपयोग की प्रक्रिया में जोखिमों को कम करने और संबंधित आर्थिक, नैतिक और कानूनी कारकों को संतुलित करने के लिए अनुसंधान और उपाय करना आवश्यक है। इसलिए, विशिष्ट एजेंसियों को अभिविन्यास के लिए मानकों और दिशानिर्देशों पर शोध और विकास करने की आवश्यकता है, भले ही वे नरम और गैर-बाध्यकारी नियम ही क्यों न हों।

दिशानिर्देशों में, विज्ञान और प्रौद्योगिकी मंत्रालय ने कृत्रिम बुद्धिमत्ता प्रणालियों के जिम्मेदार अनुसंधान और विकास के लिए नौ सिद्धांत निर्धारित किए हैं।

पहला, सहयोग की भावना, नवाचार को बढ़ावा देना: डेवलपर्स को सिस्टम के लाभों को बढ़ाने के लिए सिस्टम की विविधता पर विचार करके अपने कृत्रिम बुद्धिमत्ता सिस्टम और अन्य कृत्रिम बुद्धिमत्ता सिस्टम के बीच कनेक्टिविटी और अंतर-संचालनीयता पर विचार करने की आवश्यकता है, जबकि जोखिमों को नियंत्रित करने के लिए समन्वय को बढ़ाना होगा।

दूसरा, पारदर्शिता: इस सिद्धांत का पालन करने वाली AI प्रणालियाँ अक्सर ऐसी प्रणालियाँ होती हैं जो उपयोगकर्ताओं या संबंधित तृतीय पक्षों के जीवन, शरीर, गोपनीयता या संपत्ति को प्रभावित कर सकती हैं। ऐसे में, डेवलपर्स को सिस्टम के इनपुट और आउटपुट को स्पष्ट रूप से पहचानने की क्षमता के साथ-साथ लागू तकनीक की विशेषताओं के आधार पर संबंधित व्याख्यात्मकता और उपयोगकर्ताओं सहित समाज का विश्वास सुनिश्चित करने के लिए उनका उपयोग कैसे किया जाता है, इस पर ध्यान देने की आवश्यकता है।

तीसरा, नियंत्रणीयता: सिस्टम की नियंत्रणीयता से जुड़े जोखिमों का आकलन करने के लिए, डेवलपर्स को यह पूर्व-मूल्यांकन करना होगा कि क्या सिस्टम प्रासंगिक तकनीकी आवश्यकताओं और मानकों को पूरा करता है। जोखिम मूल्यांकन विधियों में से एक है, इसे लागू करने से पहले सुरक्षा और संरक्षा उपायों के साथ एक अलग स्थान पर परीक्षण करना।

चौथा, सुरक्षा सिद्धांत: डेवलपर्स को यह सुनिश्चित करने की आवश्यकता है कि कृत्रिम बुद्धिमत्ता प्रणाली उपयोगकर्ताओं या तीसरे पक्ष के जीवन, शरीर या संपत्ति को नुकसान नहीं पहुंचाएगी, जिसमें मध्यस्थ भी शामिल हैं।

पांचवां, सुरक्षा सिद्धांत: दस्तावेजों, निर्देशों का अनुपालन करने और निर्धारित सूचना सुरक्षा उपायों को लागू करने के अलावा, डेवलपर्स को निम्नलिखित बिंदुओं पर ध्यान देने की आवश्यकता है: सिस्टम की विश्वसनीयता और भौतिक हमलों या दुर्घटनाओं के प्रति प्रतिरोध; गोपनीयता; अखंडता; और सिस्टम की सूचना सुरक्षा से संबंधित आवश्यक जानकारी की उपलब्धता...

6. गोपनीयता: डेवलपर्स को यह सुनिश्चित करना होगा कि एआई सिस्टम उपयोगकर्ताओं या तृतीय पक्षों की गोपनीयता का उल्लंघन न करें। गोपनीयता में स्थानिक गोपनीयता (निजी जीवन में मन की शांति), सूचना गोपनीयता (व्यक्तिगत डेटा), और संचार की गोपनीयता शामिल है। डेवलपर्स को वर्तमान नियमों और दिशानिर्देशों को लागू करना होगा; गोपनीयता पर अंतर्राष्ट्रीय मानकों और दिशानिर्देशों का उपयोग किया जा सकता है।

डेवलपर्स को गोपनीयता जोखिमों का पूर्व-मूल्यांकन और गोपनीयता प्रभावों का पूर्व-मूल्यांकन करना चाहिए। जहाँ तक संभव हो, सिस्टम विकास प्रक्रिया के दौरान प्रयुक्त तकनीक की विशेषताओं के अनुरूप उचित उपाय करें ताकि उपयोग में आने पर गोपनीयता के उल्लंघन से बचा जा सके।

सातवाँ, मानवाधिकारों और सम्मान का सम्मान: मानव-संबंधित कृत्रिम बुद्धिमत्ता प्रणालियाँ विकसित करते समय, डेवलपर्स को इसमें शामिल व्यक्तियों के मानवाधिकारों और सम्मान का विशेष ध्यान रखना चाहिए। जहाँ तक संभव हो, प्रयुक्त तकनीक की विशेषताओं के आधार पर, डेवलपर्स को यह सुनिश्चित करने के उपाय करने चाहिए कि सिस्टम को प्रशिक्षित करते समय डेटा में पूर्वाग्रह के कारण कोई भेदभाव या अन्याय न हो।

डेवलपर्स को यह सुनिश्चित करने के लिए सावधानी बरतने की आवश्यकता है कि सिस्टम वियतनाम के मूल सिद्धांतों (उदाहरण के लिए, देशभक्ति, एकजुटता, आत्मनिर्भरता, वफादारी, ईमानदारी, जिम्मेदारी, अनुशासन, रचनात्मकता, आदि सहित मूल्य) के अनुसार मानवीय मूल्यों और सामाजिक नैतिकता का उल्लंघन नहीं करता है।

8वां, उपयोगकर्ता सहायता: उपयोगकर्ताओं को सहायता प्रदान करने के लिए, सिस्टम डेवलपर्स को निम्नलिखित बिंदुओं पर ध्यान देने की आवश्यकता है: उपयोगकर्ताओं को निर्णय लेने और सुविधाजनक उपयोग करने में सहायता करने के लिए समय पर और उचित जानकारी प्रदान करने हेतु तैयार इंटरफेस बनाना; समाज में कमजोर लोगों (बुजुर्ग, विकलांग) के लिए सिस्टम का उपयोग आसान बनाने के उपायों को लागू करना...

9. जवाबदेही: उपयोगकर्ताओं का विश्वास सुनिश्चित करने के लिए डेवलपर्स को अपने द्वारा विकसित की जाने वाली प्रणालियों के प्रति जवाबदेह होना आवश्यक है। विशेष रूप से, उन्हें उपयोगकर्ताओं को ऐसी जानकारी प्रदान करनी चाहिए जिससे वे प्रणाली का चयन और उपयोग कर सकें। इसके अलावा, प्रणालियों की सामाजिक स्वीकृति बढ़ाने के लिए, डेवलपर्स को और भी बहुत कुछ करना चाहिए: उपयोगकर्ताओं को उनके द्वारा विकसित प्रणालियों की तकनीकी विशेषताओं, एल्गोरिदम, सुरक्षा तंत्र आदि की जानकारी और विवरण प्रदान करना; हितधारकों की राय सुनना और उनसे संवाद करना।

स्रोत: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html