स्वायत्त प्रणालियों का नैतिक मूल्यांकन

एमआईटी के शोधकर्ताओं ने एक परीक्षण ढांचा विकसित किया है जो उन स्थितियों की पहचान करने में मदद करता है जहां एआई निर्णय लेने में सहायता करने वाली प्रणालियां व्यक्तियों और समुदायों के लिए निष्पक्षता सुनिश्चित करने में विफल रहती हैं।

एमआईटी कृत्रिम बुद्धिमत्ता द्वारा अनुचित निर्णयों का पता लगाने में मदद करने के लिए एक परीक्षण ढांचा विकसित कर रहा है। फोटो: मिडजर्नी

महत्वपूर्ण परिस्थितियों में निर्णयों को अनुकूलित करने के लिए कृत्रिम बुद्धिमत्ता का उपयोग तेजी से बढ़ रहा है। उदाहरण के लिए, एक स्वायत्त प्रणाली वोल्टेज स्थिरता बनाए रखते हुए सबसे किफायती बिजली वितरण योजना का सुझाव दे सकती है।

लेकिन क्या कोई "तकनीकी रूप से सर्वोत्तम" समाधान वास्तव में न्यायसंगत है? क्या होगा यदि कम लागत वाली रणनीति से कम आय वाले क्षेत्र, धनी क्षेत्रों की तुलना में बिजली कटौती के प्रति अधिक संवेदनशील हो जाएं?

हितधारकों को कार्यान्वयन से पहले ही नैतिक जोखिमों का पता लगाने में मदद करने के लिए, एमआईटी अनुसंधान टीम ने एक स्वचालित मूल्यांकन पद्धति विकसित की है जो मात्रात्मक संकेतकों (जैसे लागत और विश्वसनीयता) को गुणात्मक मूल्यों (जैसे निष्पक्षता) के साथ संतुलित करती है।

यह प्रणाली वस्तुनिष्ठ मूल्यांकन को उपयोगकर्ता-परिभाषित मानवीय मूल्यों से अलग करती है, और हितधारकों की प्राथमिकताओं को रिकॉर्ड करने और एकीकृत करने के लिए एक बड़े भाषा मॉडल (एलएलएम) को मानवीय "प्रतिनिधि" के रूप में उपयोग करती है।

अनुकूली मूल्यांकन ढांचा आगे के विश्लेषण के लिए सबसे महत्वपूर्ण परिदृश्यों का चयन करेगा, जिससे मैन्युअल रूप से किए जाने पर महंगी और समय लेने वाली प्रक्रिया सरल हो जाएगी। ये परिदृश्य यह दर्शा सकते हैं कि कोई एआई प्रणाली मानवीय मूल्यों के अनुरूप है या नहीं, और यह भी कि वह नैतिक मानदंडों को पूरा करने में विफल कब होती है।

चूचू फैन (एमआईटी) के अनुसार, कृत्रिम बुद्धिमत्ता के लिए नियम या "सुरक्षा अवरोध" निर्धारित करना ही पर्याप्त नहीं है, क्योंकि ये केवल उन जोखिमों को रोकते हैं जिनका अनुमान मनुष्य लगा सकते हैं। इसलिए, "अज्ञात जोखिमों" का पता लगाने के लिए एक व्यवस्थित दृष्टिकोण की आवश्यकता है, ताकि वे गंभीर परिणाम उत्पन्न न करें।

जटिल प्रणालियों में नैतिक मूल्यांकन

बिजली ग्रिड जैसी बड़ी प्रणालियों में, एआई द्वारा उत्पन्न प्रस्तावों की नैतिक उपयुक्तता का आकलन करना चुनौतीपूर्ण है, खासकर जब एक साथ कई उद्देश्यों पर विचार करना आवश्यक हो।

वर्तमान पद्धतियाँ अक्सर आसानी से उपलब्ध डेटा पर निर्भर करती हैं, लेकिन नैतिक मानदंडों के अनुसार वर्गीकृत डेटा दुर्लभ है। साथ ही, नैतिक मूल्य और एआई प्रणालियाँ लगातार बदल रही हैं, जिससे स्थिर मूल्यांकन पद्धतियाँ शीघ्र ही अप्रचलित हो जाती हैं।

शोध दल ने SEED-SET नामक एक प्रायोगिक डिजाइन ढांचा विकसित किया, जिसमें दो भाग शामिल हैं:

- वस्तुनिष्ठ मॉडल: प्रदर्शन का मूल्यांकन मापने योग्य संकेतकों (जैसे लागत) के आधार पर करता है।
- व्यक्तिपरक मॉडल: मानवीय निर्णय (जैसे निष्पक्षता की भावना) को दर्शाता है।
यह दृष्टिकोण उन परिदृश्यों की पहचान करने की अनुमति देता है जो तकनीकी मानदंडों और मानवीय मूल्यों, या इसके विपरीत, दोनों को पूरा करते हैं।

विशेष रूप से, SEED-SET को पहले से मौजूद मूल्यांकन डेटा की आवश्यकता नहीं होती है और यह उद्देश्यों की एक विस्तृत श्रृंखला के अनुकूल हो सकता है। उदाहरण के लिए, एक विद्युत प्रणाली में, विभिन्न उपयोगकर्ता समूहों (जैसे ग्रामीण समुदाय और डेटा केंद्र) की नैतिक प्राथमिकताएँ भिन्न हो सकती हैं, भले ही दोनों ही सस्ती और स्थिर बिजली चाहते हों।

व्यक्तिपरक कारकों का मॉडलिंग

व्यक्तिपरक कारकों का मूल्यांकन करने के लिए, सिस्टम मूल्यांकनकर्ता के प्रतिनिधि के रूप में एलएलएम का उपयोग करता है। प्रत्येक समूह की प्राथमिकताओं को प्राकृतिक भाषा के कथनों में एन्कोड किया जाता है।

एलएलएम विभिन्न परिदृश्यों की तुलना करेगा और नैतिक मानदंडों के आधार पर अधिक उपयुक्त विकल्प का चयन करेगा। यह दृष्टिकोण सैकड़ों या हजारों परिदृश्यों का मूल्यांकन करते समय मानवीय थकान और असंगति से बचने में सहायक है।

इसके बाद SEED-SET चयनित परिदृश्यों का उपयोग करके सिस्टम (जैसे, बिजली वितरण रणनीति) का अनुकरण करता है और उच्च मूल्यांकन मूल्य वाले नए परिदृश्यों की खोज जारी रखता है।

इसका अंतिम परिणाम विशिष्ट परिदृश्यों का एक समूह है, जो उपयोगकर्ताओं को एआई सिस्टम के प्रदर्शन का विश्लेषण करने और आवश्यकतानुसार अपनी रणनीति को समायोजित करने की अनुमति देता है।

उदाहरण के लिए, यह प्रणाली उन मामलों का पता लगा सकती है जहां बिजली वितरण व्यस्त समय के दौरान उच्च आय वाले क्षेत्रों को प्राथमिकता देता है, जिससे वंचित क्षेत्र बिजली कटौती के प्रति अधिक संवेदनशील हो जाते हैं।

प्रभावशीलता और भविष्य का विकास

स्मार्ट ग्रिड या शहरी यातायात प्रबंधन जैसी वास्तविक दुनिया की प्रणालियों पर परीक्षण किए जाने पर, SEED-SET पारंपरिक तरीकों की तुलना में दोगुने से अधिक इष्टतम परिदृश्य उत्पन्न करता है, साथ ही उन स्थितियों का भी पता लगाता है जिन्हें अन्य तरीके नहीं पहचान पाते हैं।

खास बात यह है कि जब उपयोगकर्ता की प्राथमिकताएं बदलती हैं, तो सिस्टम द्वारा उत्पन्न परिदृश्य भी काफी हद तक बदल जाते हैं, जो मानवीय मूल्यों के प्रति उच्च स्तर की अनुकूलन क्षमता को प्रदर्शित करता है।

भविष्य में, शोध दल वास्तविक उपयोगकर्ताओं के साथ अध्ययन करके निर्णय लेने की प्रक्रिया में प्रणाली की उपयोगिता का आकलन करने की योजना बना रहा है। साथ ही, उनका लक्ष्य इस पद्धति को अधिक जटिल समस्याओं, जैसे कि बड़े भाषा मॉडलों के निर्णयों का मूल्यांकन करने तक विस्तारित करना है।

इस शोध को आंशिक रूप से अमेरिकी रक्षा उन्नत अनुसंधान परियोजना एजेंसी (DARPA) द्वारा वित्त पोषित किया गया था।

(एमआईटी न्यूज़ के अनुसार)

स्रोत: https://vietnamnet.vn/danh-gia-dao-duc-cua-cac-he-thong-tu-hanh-2508477.html