AI के अंधेरे पक्ष से सावधान रहें

अपने निर्विवाद लाभों के बावजूद, कृत्रिम बुद्धिमत्ता (एआई) कुछ ज़रूरी नैतिक प्रश्न उठाती है। गौरतलब है कि वैज्ञानिक शोध में ऐसे कई आँकड़े सामने आए हैं जो दर्शाते हैं कि एआई के दुरुपयोग से अप्रत्याशित पूर्वाग्रह पैदा हो सकते हैं।

आर्टिफिशियल इंटेलिजेंस (एआई) पर मसौदा कानून को बेहतर बनाने के लिए विचारों के आदान-प्रदान हेतु कार्यशाला। (फोटो: हुओंग गुयेन)

हाल ही में पूर्वाग्रह और दस्तावेजों के मिथ्याकरण से जुड़ी घटनाओं ने विद्वानों को अनुसंधान में एआई की उचित स्तर पर भागीदारी पर पुनर्विचार करने के लिए प्रेरित किया है।

हाल ही में, भाषा विज्ञान के प्रोफेसर, डॉक्टरेट, गुयेन वान हीप ने अपने निजी पेज पर एक ऐसी कहानी साझा की जिसने पाठकों को चौंका दिया। उन्होंने पाया कि एआई ने उनके एक मित्र द्वारा भेजी गई जानकारी में उनके दस्तावेज़ों में जालसाज़ी की थी। उन्हें संयोग से यह भी पता चला कि एसोसिएट प्रोफेसर, डॉक्टरेट ऑफ साइंस ट्रान वान को का लेख भी एआई द्वारा जाली था।

एआई मानव जीवन का एक अनिवार्य हिस्सा बन गया है, हालाँकि, विशेषज्ञ हमेशा इस बात पर ज़ोर देते हैं कि हमें एआई को केवल एक सहायक उपकरण के रूप में ही देखना चाहिए। एआई उपयोगकर्ताओं को डेटा को संसाधित करने और एआई के साथ "सहयोग" करने के बाद प्राप्त परिणामों का मूल्यांकन करने के लिए हमेशा सतर्क और जानकार रहने की आवश्यकता होती है। विशेष रूप से वैज्ञानिक अनुसंधान में, कई अध्ययनों से पता चला है कि सबसे बड़ी समस्या जिसके लिए सतर्क रहने की आवश्यकता है, वह है डेटा और मॉडल में पूर्वाग्रह। एआई पक्षपाती हो सकता है, विश्लेषण के परिणामों को विकृत कर सकता है, पूर्वाग्रह या भेदभाव पैदा कर सकता है, और यदि अच्छी तरह से नियंत्रित न किया जाए तो जानकारी में हेरफेर कर सकता है।

विशेष रूप से, सामाजिक विज्ञान अनुसंधान में एआई के उपयोग के लिए बहुत अधिक सावधानी की आवश्यकता होती है। चूँकि दर्शनशास्त्र, भाषाविज्ञान, नृवंशविज्ञान, इतिहास आदि जैसे सामाजिक विज्ञान के सभी क्षेत्र मानव व्यवहार, संस्कृति और आचरण को अनुसंधान के विषय के रूप में लेते हैं, इसलिए डेटा अक्सर वियतनामी सामाजिक-सांस्कृतिक संदर्भ से गहराई और विशिष्टता के साथ निकटता से जुड़ा होता है। यदि एआई प्रशिक्षण डेटा ऐतिहासिक पूर्वाग्रहों को दर्शाता है, तो खतरा यह हो सकता है कि एआई ऐसे निष्कर्ष निकाल सकता है जो लिंग, वर्ग, नस्ल या भौगोलिक क्षेत्र के बीच असमानता की समस्याओं को बढ़ा सकते हैं। यह जोखिम तब और भी बढ़ जाता है जब एआई का उपयोग मानव व्यवहार का विश्लेषण करने, खुले सर्वेक्षणों का जवाब देने या मीडिया सामग्री में भाग लेने के लिए किया जाता है।

कुछ सामाजिक विज्ञान विशेषज्ञों के अनुसार, वर्तमान में AI को कॉपीराइट या भुगतान किए गए डेटा स्रोतों तक पहुंचने में कठिनाई होती है, जिसके परिणामस्वरूप अपूर्ण रूप से अद्यतन जानकारी मिलती है।

विश्वसनीय कहानियाँ गढ़ने के लिए दस्तावेज़ों को गढ़ने की घटना अक्सर कम लोकप्रिय विषयों में, वियतनामी जैसी सीमित डेटा स्रोतों वाली भाषाओं में होती है, और उपयोगकर्ताओं को सचेत करने के लिए इसकी चेतावनी दी जानी चाहिए। सामान्य तौर पर, एआई प्रणालियाँ वर्तमान में सामाजिक और सांस्कृतिक संदर्भों को समझने में बहुत सीमित हैं, इसलिए अस्पष्ट, रूपक-समृद्ध सामाजिक विज्ञान ज्ञान की व्याख्या करने में उनकी सहायता वास्तव में विश्वसनीय नहीं है।

यद्यपि यह वैज्ञानिक अनुसंधान में बहुत संभावनाएं लेकर आता है, लेकिन एआई के अनुप्रयोग में बहुत सावधानी बरतने की आवश्यकता है, इसकी सीमाएं हैं और इसे हमेशा शोधकर्ता की आलोचनात्मक सोच क्षमता के साथ चलना चाहिए।

यह देखा जा सकता है कि, यद्यपि यह वैज्ञानिक अनुसंधान में अपार संभावनाएँ लाता है, फिर भी एआई के अनुप्रयोग को अत्यंत सतर्क, सीमित और हमेशा शोधकर्ता की आलोचनात्मक क्षमता के साथ होना चाहिए। एआई का उपयोग करने वाले विषय को एआई के उपयोग में इन सीमाओं को स्पष्ट रूप से पहचानना चाहिए, यह सुनिश्चित करते हुए कि एआई विज्ञान के मूल मूल्यों को न बदले। वैज्ञानिक अनुसंधान की अखंडता की रक्षा के लिए, वैज्ञानिकों की भूमिका और जिम्मेदारी को एक नए स्तर पर ले जाना होगा। इसके अलावा, वियतनामी संस्कृति, परंपराओं और सामाजिक मानदंडों के संदर्भ में कानूनी रूप से बाध्यकारी एआई नैतिक ढाँचे का प्रस्ताव करना आवश्यक है।

हमारे पास सुरक्षित और जिम्मेदार एआई प्रणालियों के अनुसंधान और विकास को बढ़ावा देने, नकारात्मक प्रभावों को सीमित करने और विज्ञान और प्रौद्योगिकी मंत्रालय द्वारा प्रस्तावित जोखिमों को नियंत्रित करने के लिए नौ सिद्धांतों की एक प्रणाली है, जो डेटा सुरक्षा के साथ-साथ मानवाधिकारों और सम्मान के सम्मान और एआई उपयोगकर्ताओं की जवाबदेही पर जोर देती है। विशेष रूप से वैज्ञानिक अनुसंधान में, स्टेट काउंसिल ऑफ प्रोफेसर्स ने भी 2023 में आधिकारिक डिस्पैच नंबर 25/HDGSNN जारी किया, जिसमें अनुरोध किया गया कि उद्योग के प्रोफेसर शीर्षक परिषद और वैज्ञानिक कार्यों की गुणवत्ता का आकलन करने वाली सुविधाएं उन कार्यों का पता लगाने और मूल्यांकन करने पर विशेष ध्यान दें जो एआई तकनीक का उपयोग करते हैं या उनकी सहायता करते हैं। इन आवश्यकताओं का उद्देश्य यह सुनिश्चित करना है कि एआई का उपयोग करने वाले शोध परिणाम अभी भी वैज्ञानिक मानकों को पूरा करते हैं,

आने वाले समय में, जब आर्टिफिशियल इंटेलिजेंस पर कानून जारी किया जाएगा, तो एआई के उपयोग में नैतिकता और जिम्मेदारी से संबंधित सख्त नियमों के साथ, यह एआई विकास के लिए एक स्वस्थ वातावरण बनाने में योगदान देगा, जिससे अनुसंधान कार्यों में वैज्ञानिकों को अधिक सक्रिय और जिम्मेदार समर्थन मिलेगा।

नृत्य महोत्सव

स्रोत: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html