कृत्रिम बुद्धिमत्ता के लिए सुरक्षा मानकों का पता लगाना

[विज्ञापन_1]

एसजीजीपी 31 जुलाई, 2023 09:35

यूरोप द्वारा कृत्रिम बुद्धिमत्ता (एआई) पर विश्व का पहला कानून तैयार करने और शीघ्र ही उसे लागू करने के बाद, चार प्रमुख अमेरिकी इंटरनेट डाटा माइनिंग दिग्गजों ने फ्रंटियर मॉडल फोरम नामक एक समूह का शुभारंभ किया है।

फ्रंटियर मॉडल फ़ोरम का मुख्य लक्ष्य ज़िम्मेदारी से एआई को बढ़ावा देना है। फोटो: THINKWITHNICHE

पार्टियाँ एक दूसरे के करीब आती हैं

एंथ्रोपिक, गूगल, माइक्रोसॉफ्ट और चैटजीपीटी के मालिक ओपनएआई सहित इस समूह ने कहा कि फ्रंटियर मॉडल फोरम का मुख्य लक्ष्य एआई प्लेटफॉर्म्स से उत्पन्न जोखिमों को कम करने और उद्योग मानकों को विकसित करने में मदद करना है। फ्रंटियर मॉडल फोरम निम्नलिखित मुख्य लक्ष्यों के साथ एक नया फोरम बनाएगा: विकास को समर्थन देने, जोखिमों को कम करने और सुरक्षा आकलन और स्तरों को मानकीकृत करने के लिए एआई सुरक्षा अनुसंधान को बढ़ावा देना; मॉडल विकास और परिनियोजन के लिए सर्वोत्तम प्रथाओं की पहचान करना; जनता को तकनीक की प्रकृति, क्षमताओं, सीमाओं और प्रभावों को समझने में मदद करना; और जोखिमों और सुरक्षा के बारे में ज्ञान साझा करने के लिए नीति निर्माताओं, शिक्षाविदों, नागरिक समाज और कंपनियों के साथ सहयोग करना।

तकनीकी दिग्गज पारंपरिक रूप से बढ़ते विनियमन का विरोध करते रहे हैं, लेकिन इस बार, तकनीकी उद्योग ने एआई से उत्पन्न होने वाले जोखिमों के बारे में बढ़ती चिंताओं को देखते हुए अपना रुख बदल दिया है। फ्रंटियर मॉडल फोरम पहल में शामिल कंपनियों ने कंपनियों के बीच सर्वोत्तम प्रथाओं को साझा करने और सरकारों और नागरिक समाज के लिए जानकारी सार्वजनिक रूप से उपलब्ध कराने का संकल्प लिया है।

विशेष रूप से, फ्रंटियर मॉडल फ़ोरम बड़े पैमाने पर, फिर भी अभी भी नए, मशीन लर्निंग प्लेटफ़ॉर्म पर ध्यान केंद्रित करेगा जो एआई को परिष्कार के नए स्तरों तक ले जाएँगे – जो एक संभावित जोखिम कारक भी है। इसके अलावा, फ्रंटियर मॉडल फ़ोरम उन अनुप्रयोगों के विकास का भी समर्थन करेगा जो प्रमुख सामाजिक चुनौतियों का समाधान करते हैं, जैसे: जलवायु परिवर्तन शमन और अनुकूलन, कैंसर का शीघ्र पता लगाना और उसकी रोकथाम, और साइबर खतरों का मुकाबला करना।

संभावित विनाश की गुंजाइश

अमेरिकी कंपनियों द्वारा फ्रंटियर मॉडल फ़ोरम की घोषणा अमेरिकी सीनेटरों द्वारा 25 जुलाई को अमेरिकी सीनेट न्यायपालिका समिति की एक उपसमिति के समक्ष सुनवाई में जैविक हमलों के लिए एआई के इस्तेमाल के जोखिम के बारे में चेतावनी दिए जाने के कुछ दिनों बाद हुई है। हाल ही में, ओपनएआई, अल्फाबेट और मेटा सहित सात प्रमुख प्रौद्योगिकी कंपनियों ने उपयोगकर्ताओं के लिए पारदर्शिता सुनिश्चित करने हेतु, एआई द्वारा निर्मित पाठ, चित्र, ऑडियो से लेकर वीडियो तक सभी सामग्री की पहचान करने के लिए एक प्रणाली विकसित करने हेतु व्हाइट हाउस के समक्ष स्वेच्छा से प्रतिबद्धता जताई है, ताकि यह तकनीक अधिक सुरक्षित हो।

एआई एंथ्रोपिक के सीईओ डारियो अमोदेई ने कहा कि हालाँकि एआई अभी जैविक हथियार बनाने में सक्षम नहीं है, लेकिन यह एक "मध्यम अवधि" का जोखिम है और अगले दो या तीन वर्षों में अमेरिकी राष्ट्रीय सुरक्षा के लिए एक गंभीर खतरा बन सकता है। इसकी वजह यह है कि बड़े पैमाने पर जैविक हथियारों से हमले करने वाले अब केवल इस क्षेत्र में विशेषज्ञता रखने वालों तक ही सीमित नहीं रह गए हैं।

दुनिया जनरेटिव एआई तकनीक से निर्मित सामग्री के विस्फोट का सामना कर रही है। अमेरिका, यूरोप से लेकर एशिया तक, नियंत्रण धीरे-धीरे कड़े होते जा रहे हैं। सीएनएन के अनुसार, सितंबर से शुरू होकर, अमेरिकी सीनेट अपने सदस्यों के लिए नौ अतिरिक्त कार्यशालाओं की एक श्रृंखला आयोजित करेगी ताकि वे जान सकें कि एआई नौकरियों, राष्ट्रीय सुरक्षा और बौद्धिक संपदा को कैसे प्रभावित कर सकता है। अमेरिका से पहले, अगर कोई समझौता हो जाता है, तो यूरोपीय संघ अगले साल एआई प्रबंधन पर दुनिया का पहला कानून पारित करेगा, जिसके 2026 से लागू होने की उम्मीद है।

एआई से समाज को होने वाले लाभ निर्विवाद हैं, लेकिन इस नई तकनीक के संभावित खतरों को लेकर चेतावनियाँ बढ़ती जा रही हैं। जून में, संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने कई एआई अधिकारियों के उस प्रस्ताव का समर्थन किया था जिसमें अंतर्राष्ट्रीय परमाणु ऊर्जा एजेंसी (IAEA) की तरह एक अंतर्राष्ट्रीय एआई निगरानी संस्था स्थापित करने का प्रस्ताव था।

फ्रंटियर मॉडल फ़ोरम में, माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा कि यह पहल प्रौद्योगिकी कंपनियों को मानवता के हित में एआई के ज़िम्मेदाराना उपयोग को बढ़ावा देने के लिए एक साथ लाने की दिशा में एक महत्वपूर्ण कदम है। इसी प्रकार, ओपनएआई की वैश्विक मामलों की उपाध्यक्ष अन्ना मकांजू ने कहा कि उन्नत एआई तकनीक में समाज के लिए व्यापक लाभ लाने की क्षमता है, और इसके लिए निगरानी और प्रशासन की आवश्यकता है।

[विज्ञापन_2]
स्रोत