एआई 'गॉडफादर' ने विलुप्त होने के खतरे की चेतावनी दी

प्रोफेसर योशुआ बेंगियो ने सरकारों और कंपनियों से आह्वान किया है कि वे अपनी गति धीमी कर लें, अन्यथा एआई हथियारों की दौड़ से संभावित रूप से विनाशकारी परिणाम भुगतने का जोखिम उठा सकते हैं।

योशुआ बेंगियो, आधुनिक एआई बूम की नींव रखने वाले पहले वैज्ञानिकों में से एक। फोटो: तुआन आन्ह ।

वॉल स्ट्रीट जर्नल से बात करते हुए, कृत्रिम बुद्धिमत्ता के अग्रदूतों में से एक, योशुआ बेंगियो ने संदेश दिया कि एआई मशीनें पहले से कहीं अधिक खतरनाक होती जा रही हैं।

श्री बेंगियो ने कहा, "अगर हम ऐसी मशीनें बनाएँ जो इंसानों से कहीं ज़्यादा स्मार्ट हों और जिनके अपने आत्म-सुरक्षा लक्ष्य हों, तो यह ख़तरनाक होगा। यह मानवता के लिए एक प्रतियोगी और हमसे ज़्यादा स्मार्ट मशीन बनाने जैसा होगा।"

बेंगियो, एक कनाडाई शोध वैज्ञानिक हैं, जिनके गहन शिक्षण और तंत्रिका नेटवर्क पर प्रारंभिक कार्य ने आधुनिक एआई बूम की नींव रखी, उन्हें जेफ्री हिंटन और यान लेकुन के साथ "एआई के जनक" में से एक माना जाता है।

हिंटन की तरह, बेंगियो ने भी एआई के संभावित नुकसानों के बारे में चेतावनी दी है और जोखिमों को कम करने के लिए सामूहिक कार्रवाई का आह्वान किया है।

मॉन्ट्रियल विश्वविद्यालय के प्रोफेसर का मानना ​​है कि एआई उत्पाद अब अपने लक्ष्यों को प्राप्त करने के लिए उपयोगकर्ताओं को धोखा देने की क्षमता विकसित कर सकते हैं, जैसे कि विज्ञान कथा फिल्मों में संवेदनशील सुपरकंप्यूटर खलनायक।

इसका मुकाबला करने के लिए, श्री बेंगियो ने एआई कंपनियों के आंतरिक सुरक्षा तंत्रों की समीक्षा के लिए "स्वतंत्र तृतीय पक्षों" की आवश्यकता पर ज़ोर दिया। इसके अलावा, एआई के इस "गॉडफादर" को कंपनियों से यह प्रमाण भी मांगना होगा कि "वे जिन एआई प्रणालियों को तैनात या उपयोग कर रहे हैं, वे विश्वसनीय हैं।"

यदि सुरक्षा उपाय नहीं किए गए, तो बेंगियो का अनुमान है कि अगले 10-15 वर्षों में प्रमुख एआई जोखिम अवश्यंभावी होंगे, तथा सबसे खराब स्थिति तो यह होगी कि संभावित आपदा घटित होने में केवल तीन वर्ष लगेंगे।

स्रोत: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html