'एआई किलर रोबोट' का खतरा वैश्विक सुरक्षा को खतरे में डाल रहा है।

कृत्रिम बुद्धिमत्ता से चलने वाले किलर रोबोटों के उपयोग की जटिल तस्वीर।

कृत्रिम बुद्धिमत्ता को हथियार प्रणालियों को नियंत्रित करने की अनुमति देने का अर्थ यह हो सकता है कि लक्ष्यों की पहचान, उन पर हमला और उन्हें नष्ट करना मानवीय हस्तक्षेप के बिना ही संभव हो जाए। इससे गंभीर कानूनी और नैतिक प्रश्न उठते हैं।

स्थिति की गंभीरता पर जोर देते हुए ऑस्ट्रिया के विदेश मंत्री अलेक्जेंडर शैलेनबर्ग ने कहा: "यह हमारी पीढ़ी के लिए ओपेनहाइमर जैसा क्षण है।"

कृत्रिम बुद्धिमत्ता से चलने वाले रोबोट और हथियार कई देशों की सेनाओं में व्यापक रूप से उपयोग किए जाने लगे हैं। फोटो: फोर्ब्स

दरअसल, दुनिया भर की सेनाओं द्वारा ड्रोन और कृत्रिम बुद्धिमत्ता (एआई) के व्यापक उपयोग को देखते हुए, यह एक गंभीर प्रश्न बन गया है कि "जीनी जार से बाहर निकल चुका है या नहीं"।

ग्लोबलडाटा के रक्षा विश्लेषक विल्सन जोन्स ने कहा: "आधुनिक संघर्ष में रूस और यूक्रेन द्वारा ड्रोन का उपयोग, अफगानिस्तान और पाकिस्तान में लक्षित हमले अभियानों में अमेरिका द्वारा ड्रोन का उपयोग, और जैसा कि पिछले महीने ही सामने आया है, इज़राइल के लैवेंडर कार्यक्रम के हिस्से के रूप में, यह दर्शाता है कि कैसे कृत्रिम बुद्धिमत्ता की सूचना प्रसंस्करण क्षमताओं का उपयोग दुनिया की सेनाओं द्वारा अपनी आक्रामक शक्ति को बढ़ाने के लिए सक्रिय रूप से किया गया है।"

लंदन स्थित युद्ध जांच कार्यालय द्वारा की गई जांच में पाया गया कि इजरायली सेना के लैवेंडर एआई सिस्टम की हमास से जुड़े व्यक्तियों की पहचान करने में 90% सटीकता दर थी, जिसका अर्थ है कि 10% व्यक्ति हमास से जुड़े नहीं थे। एआई की पहचान और निर्णय लेने की क्षमताओं के कारण आम नागरिकों की जान गई।

वैश्विक सुरक्षा के लिए खतरा।

इस प्रकार से एआई का उपयोग हथियार प्रणालियों में प्रौद्योगिकी प्रबंधन की आवश्यकता को रेखांकित करता है।

वैश्विक सुरक्षा पर केंद्रित एक स्वतंत्र अनुसंधान समूह, स्टॉकहोम इंटरनेशनल पीस रिसर्च इंस्टीट्यूट (एसआईपीआरआई) में आर्टिफिशियल इंटेलिजेंस गवर्नेंस कार्यक्रम के वरिष्ठ शोधकर्ता डॉ. अलेक्जेंडर ब्लैंचर्ड ने आर्मी टेक्नोलॉजी को समझाया: "हथियार प्रणालियों में एआई का उपयोग, विशेष रूप से लक्ष्यीकरण के लिए उपयोग किए जाने पर, इस बारे में मौलिक प्रश्न उठाता है कि हम - मनुष्य - कौन हैं और युद्ध के साथ हमारा संबंध क्या है, और अधिक विशेष रूप से, सशस्त्र संघर्षों में हम हिंसा का उपयोग कैसे कर सकते हैं, इस बारे में हमारी धारणाएं क्या हैं।"

अव्यवस्थित वातावरण में उपयोग किए जाने पर, एआई सिस्टम अप्रत्याशित रूप से कार्य कर सकते हैं और लक्ष्यों की सटीक पहचान करने में सक्षम नहीं हो सकते हैं। (चित्र: एमईएस)

“क्या कृत्रिम बुद्धिमत्ता (एआई) सेनाओं द्वारा लक्ष्य चुनने और उन पर बल प्रयोग करने के तरीके को बदल देगी? ये बदलाव बदले में कई कानूनी, नैतिक और परिचालन संबंधी प्रश्न खड़े करते हैं। सबसे बड़ी चिंता मानवीय पहलू को लेकर है,” डॉ. ब्लैंचर्ड ने आगे कहा।

एसआईपीआरआई विशेषज्ञ ने समझाया: “कई लोगों को चिंता है कि स्वचालित प्रणालियों के डिजाइन और उपयोग के तरीके के आधार पर, वे नागरिकों और अंतरराष्ट्रीय कानून द्वारा संरक्षित अन्य लोगों को नुकसान के अधिक खतरे में डाल सकते हैं। ऐसा इसलिए है क्योंकि एआई प्रणालियां, विशेष रूप से अराजक वातावरण में उपयोग किए जाने पर, अप्रत्याशित रूप से काम कर सकती हैं और लक्ष्यों की सटीक पहचान करने में विफल हो सकती हैं और नागरिकों पर हमला कर सकती हैं, या उन लड़ाकों की पहचान करने में विफल हो सकती हैं जो गोलीबारी की सीमा से बाहर हैं।”

इस मुद्दे पर विस्तार से बताते हुए, ग्लोबलडाटा के रक्षा विश्लेषक विल्सन जोन्स का कहना है कि अपराध को कैसे परिभाषित किया जाए, इस प्रश्न पर सवाल उठाया जा सकता है।

“युद्ध के मौजूदा कानूनों के तहत, कमान की ज़िम्मेदारी की अवधारणा है,” जोन्स ने कहा। “इसका मतलब है कि एक अधिकारी, जनरल या अन्य नेता अपने अधीन सैनिकों की कार्रवाई के लिए कानूनी रूप से ज़िम्मेदार होता है। यदि सैनिक युद्ध अपराध करते हैं, तो अधिकारी को ज़िम्मेदार ठहराया जाता है, भले ही उन्होंने आदेश न दिया हो; सबूत का बोझ उन्हीं पर होता है, यह साबित करना कि उन्होंने युद्ध अपराधों को रोकने के लिए हर संभव प्रयास किया।”

“एआई सिस्टम के साथ, यह मामला जटिल हो जाता है। क्या इसके लिए आईटी तकनीशियन जिम्मेदार है? या सिस्टम डिजाइनर? यह स्पष्ट नहीं है। अगर यह स्पष्ट नहीं है, तो इससे नैतिक जोखिम पैदा होता है अगर संबंधित पक्ष यह सोचते हैं कि उनके कार्यों को मौजूदा कानूनों द्वारा संरक्षित नहीं किया गया है,” जोन्स ने जोर दिया।

एक अमेरिकी सैनिक रोबोटिक कुत्ते के साथ गश्त कर रहा है। फोटो: फोर्ब्स

शस्त्र नियंत्रण समझौते: कई प्रमुख अंतरराष्ट्रीय समझौते हथियारों के कुछ विशिष्ट उपयोगों को प्रतिबंधित और विनियमित करते हैं। इनमें रासायनिक हथियारों पर प्रतिबंध, परमाणु अप्रसार संधियाँ और कुछ पारंपरिक हथियारों पर सम्मेलन शामिल हैं, जो उन विशिष्ट हथियारों के उपयोग को प्रतिबंधित या सीमित करते हैं जिन्हें लड़ाकों को अनावश्यक या अनुचित पीड़ा पहुँचाने वाला या नागरिकों को अंधाधुंध रूप से प्रभावित करने वाला माना जाता है।

रक्षा विश्लेषक विल्सन जोन्स बताते हैं, “परमाणु हथियार नियंत्रण के लिए दशकों के अंतरराष्ट्रीय सहयोग और उसके बाद लागू होने वाली संधियों की आवश्यकता होती है। इसके बावजूद, हमने 1990 के दशक तक वायुमंडलीय परीक्षण जारी रखे। परमाणु अप्रसार की सफलता का एक प्रमुख कारण द्विध्रुवीय विश्व व्यवस्था में संयुक्त राज्य अमेरिका और सोवियत संघ के बीच सहयोग था। अब वह व्यवस्था मौजूद नहीं है, और कृत्रिम बुद्धिमत्ता (एआई) तकनीक परमाणु ऊर्जा की तुलना में अधिक देशों के लिए अधिक सुलभ हो गई है।”

“एक बाध्यकारी संधि के लिए सभी संबंधित पक्षों को एक साथ लाकर इस बात पर सहमत कराना होगा कि वे अपनी सैन्य शक्ति बढ़ाने वाले किसी भी उपकरण का उपयोग नहीं करेंगे। यह शायद ही प्रभावी होगा क्योंकि कृत्रिम बुद्धिमत्ता न्यूनतम वित्तीय और भौतिक लागत पर सैन्य प्रभावशीलता में सुधार कर सकती है।”

वर्तमान भूराजनीतिक परिप्रेक्ष्य

हालांकि संयुक्त राष्ट्र में शामिल देशों ने सेना द्वारा कृत्रिम बुद्धिमत्ता के जिम्मेदार उपयोग की आवश्यकता को स्वीकार किया है, फिर भी बहुत काम किया जाना बाकी है।

ग्लोबलडाटा की प्रमुख विश्लेषक लौरा पेट्रोन ने आर्मी टेक्नोलॉजी को बताया: “स्पष्ट शासी ढांचे के अभाव में, ये बयान काफी हद तक महत्वाकांक्षी ही बने हुए हैं। यह आश्चर्य की बात नहीं है कि कुछ देश घरेलू रक्षा और राष्ट्रीय सुरक्षा मामलों पर निर्णय लेते समय अपनी संप्रभुता बनाए रखना चाहते हैं, खासकर मौजूदा भू-राजनीतिक तनावों के संदर्भ में।”

सुश्री पेट्रोन ने आगे कहा कि हालांकि यूरोपीय संघ का एआई अधिनियम एआई प्रणालियों के लिए कुछ आवश्यकताएं निर्धारित करता है, लेकिन यह सैन्य उद्देश्यों के लिए एआई प्रणालियों को संबोधित नहीं करता है।

उन्होंने टिप्पणी की, “मुझे लगता है कि इस अपवाद के बावजूद, एआई अधिनियम एआई अनुप्रयोगों के लिए एक लंबे समय से प्रतीक्षित ढांचा स्थापित करने का एक महत्वपूर्ण प्रयास है, जिससे भविष्य में संबंधित मानकों में कुछ हद तक सामंजस्य स्थापित हो सकता है। यह सामंजस्य सैन्य क्षेत्र में एआई के लिए भी महत्वपूर्ण होगा।”

गुयेन खान

स्रोत: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html