कृत्रिम बुद्धिमत्ता के लिए सुरक्षा मानकों का पता लगाना

[विज्ञापन_1]

एसजीजीपी 07/31/2023 09:35

यूरोप द्वारा कृत्रिम बुद्धिमत्ता (एआई) पर विश्व का पहला कानून तैयार करने और शीघ्र ही उसे लागू करने के बाद, चार प्रमुख अमेरिकी इंटरनेट डाटा माइनिंग "दिग्गजों" ने फ्रंटियर मॉडल फोरम नामक एक समूह का शुभारंभ किया है।

फ्रंटियर मॉडल फ़ोरम का मुख्य लक्ष्य ज़िम्मेदार एआई को बढ़ावा देना है। फ़ोटो: THINKWITHNICHE

पार्टियाँ एक साथ आती हैं

एंथ्रोपिक, गूगल, माइक्रोसॉफ्ट और चैटजीपीटी के स्वामी ओपनएआई सहित इस समूह ने कहा कि फ्रंटियर मॉडल फोरम का मुख्य लक्ष्य एआई प्लेटफॉर्म्स से उत्पन्न जोखिमों को कम करने और उद्योग मानकों को विकसित करने में मदद करना है। फ्रंटियर मॉडल फोरम निम्नलिखित मुख्य लक्ष्यों के साथ एक नया फोरम बनाएगा: विकास को समर्थन देने, जोखिमों को कम करने और सुरक्षा आकलन और स्तरों को मानकीकृत करने के लिए एआई सुरक्षा अनुसंधान को बढ़ावा देना; मॉडल विकास और परिनियोजन के लिए सर्वोत्तम प्रथाओं की पहचान करना, और जनता को तकनीक की प्रकृति, क्षमताओं, सीमाओं और प्रभावों को समझने में मदद करना; और जोखिमों और सुरक्षा के बारे में ज्ञान साझा करने के लिए नीति निर्माताओं, शिक्षाविदों, नागरिक समाज और कंपनियों के साथ सहयोग करना।

तकनीकी दिग्गज पारंपरिक रूप से बढ़ते विनियमन का विरोध करते रहे हैं, लेकिन इस बार, तकनीकी उद्योग ने एआई से उत्पन्न जोखिमों पर अपना रुख काफी हद तक बदल दिया है। फ्रंटियर मॉडल फोरम पहल में शामिल कंपनियों ने कंपनियों के बीच सर्वोत्तम प्रथाओं को साझा करने और सरकारों और नागरिक समाज के लिए जानकारी सार्वजनिक रूप से उपलब्ध कराने का संकल्प लिया है।

विशेष रूप से, फ्रंटियर मॉडल फ़ोरम बड़े पैमाने पर, फिर भी नए, मशीन लर्निंग प्लेटफ़ॉर्म पर ध्यान केंद्रित करेगा जो एआई को परिष्कार के नए स्तरों तक ले जाएँगे – जो एक संभावित जोखिम कारक भी है। इसके अलावा, फ्रंटियर मॉडल फ़ोरम उन अनुप्रयोगों के विकास का भी समर्थन करेगा जो प्रमुख सामाजिक चुनौतियों का समाधान करते हैं, जैसे: जलवायु परिवर्तन शमन और अनुकूलन, कैंसर का शीघ्र पता लगाना और उसकी रोकथाम, और साइबर खतरों से सुरक्षा।

संभावित विनाश की गुंजाइश

अमेरिकी कंपनियों द्वारा फ्रंटियर मॉडल फ़ोरम की घोषणा अमेरिकी सीनेटरों द्वारा 25 जुलाई को अमेरिकी सीनेट न्यायपालिका समिति की एक उपसमिति के समक्ष एक सुनवाई में जैविक हमलों के लिए एआई के इस्तेमाल के जोखिम के बारे में चेतावनी दिए जाने के कुछ दिनों बाद हुई है। हाल ही में, ओपनएआई, अल्फाबेट और मेटा सहित सात प्रमुख प्रौद्योगिकी कंपनियों ने स्वेच्छा से व्हाइट हाउस के समक्ष एक ऐसी प्रणाली विकसित करने का वादा किया है जो एआई द्वारा निर्मित सभी सामग्री, चाहे वह टेक्स्ट हो, चित्र हो, ऑडियो हो या वीडियो, को लेबल करेगी ताकि उपयोगकर्ताओं को सूचना पारदर्शिता प्रदान की जा सके और यह सुनिश्चित किया जा सके कि यह तकनीक अधिक सुरक्षित है।

एआई एंथ्रोपिक के सीईओ डारियो अमोदेई ने कहा कि हालाँकि एआई अभी जैविक हथियार बनाने में सक्षम नहीं है, लेकिन यह एक "मध्यम अवधि" का जोखिम है जो अगले दो से तीन वर्षों में अमेरिकी राष्ट्रीय सुरक्षा के लिए गंभीर खतरा पैदा कर सकता है। ऐसा इसलिए है क्योंकि बड़े पैमाने पर जैविक हमले करने वाले अब केवल उस विषय के विशेषज्ञ ज्ञान वाले लोगों तक सीमित नहीं हैं।

दुनिया जनरेटिव एआई तकनीक द्वारा निर्मित सामग्री के विस्फोट का सामना कर रही है। अमेरिका से लेकर यूरोप और एशिया तक, नियामक कदम धीरे-धीरे कड़े होते जा रहे हैं। सीएनएन के अनुसार, सितंबर से शुरू होकर, अमेरिकी सीनेट अपने सदस्यों के लिए नौ अतिरिक्त कार्यशालाओं की एक श्रृंखला आयोजित करेगी, जहाँ वे सीखेंगे कि एआई नौकरियों, राष्ट्रीय सुरक्षा और बौद्धिक संपदा को कैसे प्रभावित कर सकता है। अमेरिका से पहले, अगर कोई समझौता हो जाता है, तो यूरोपीय संघ अगले साल एआई प्रबंधन पर दुनिया का पहला कानून पारित करेगा, जिसके 2026 में लागू होने की उम्मीद है।

एआई से समाज को होने वाले लाभ निर्विवाद हैं, लेकिन इस नई तकनीक के संभावित खतरों को लेकर चेतावनियाँ बढ़ती जा रही हैं। जून में, संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने कई एआई अधिकारियों के उस प्रस्ताव का समर्थन किया था जिसमें अंतर्राष्ट्रीय परमाणु ऊर्जा एजेंसी (IAEA) की तरह एक अंतर्राष्ट्रीय एआई निगरानी संस्था स्थापित करने का प्रस्ताव था।

फ्रंटियर मॉडल फ़ोरम में, माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा कि यह पहल प्रौद्योगिकी कंपनियों को मानवता के हित में एआई के ज़िम्मेदाराना उपयोग को बढ़ावा देने के लिए एक साथ लाने की दिशा में एक महत्वपूर्ण कदम है। इसी प्रकार, ओपनएआई की वैश्विक मामलों की उपाध्यक्ष अन्ना मकांजू ने कहा कि उन्नत एआई तकनीक में समाज के लिए व्यापक लाभ लाने की क्षमता है, और इसके लिए निगरानी और प्रशासन की आवश्यकता है।

[विज्ञापन_2]
स्रोत