कृत्रिम बुद्धिमत्ता भी मनुष्यों की तरह ही तर्कहीन गलतियाँ करती है और पूर्वाग्रह प्रदर्शित करती है।

एल्गोरिदम और विशाल डेटासेट पर काम करने के बावजूद, चैटजीपीटी जैसी कृत्रिम बुद्धिमत्ता (एआई) प्रणालियाँ अभी भी सामान्य मानवीय संज्ञानात्मक पूर्वाग्रहों, अर्थात् अति आत्मविश्वास और पक्षपात के प्रति संवेदनशील हैं।

कृत्रिम बुद्धिमत्ता (एआई) उन समस्याओं को हल करने में सबसे अच्छा प्रदर्शन करती है जो स्पष्ट प्रक्रियाओं और निश्चित सूत्रों का पालन करती हैं। हालांकि, जब व्यक्तिपरक निर्णय या व्यक्तिगत प्राथमिकताओं से संबंधित स्थितियों से निपटना होता है, तो एआई मनुष्यों के समान गलतियाँ कर सकती है।

कनाडा और ऑस्ट्रेलिया के पांच विश्वविद्यालयों के वैज्ञानिकों द्वारा किए गए एक नए अध्ययन, जो जर्नल मैन्युफैक्चरिंग एंड सर्विस ऑपरेशंस मैनेजमेंट में प्रकाशित हुआ है, ने चैटजीपीटी (विशेष रूप से, ओपनएआई के जीपीटी-3.5 और जीपीटी-4 मॉडल) के व्यवहार का मूल्यांकन मानव मनोविज्ञान में आमतौर पर पाए जाने वाले 18 प्रमुख संज्ञानात्मक पूर्वाग्रहों पर किया, जैसे कि पुष्टिकरण पूर्वाग्रह, अधिकारपरक प्रभाव, डूबी हुई लागत की भ्रांति और निश्चितता पूर्वाग्रह।

परिणामों से पता चला कि परीक्षण किए गए लगभग आधे परिदृश्यों में, तर्कहीन या भावनात्मक विकल्पों का सामना करने पर चैटजीपीटी ने बिल्कुल एक इंसान की तरह व्यवहार किया, सिस्टम की सुसंगत तार्किक तर्क क्षमता की प्रतिष्ठा के बावजूद।

क्या एआई वाकई उम्मीदों के मुताबिक "निष्पक्ष" है?

कनाडा के आइवी बिजनेस स्कूल में ऑपरेशंस मैनेजमेंट के एसोसिएट प्रोफेसर और इस अध्ययन के प्रमुख लेखक डॉ. यांग चेन ने कहा: "एआई तब सबसे अच्छा प्रदर्शन करता है जब उसे स्पष्ट प्रक्रियाओं और निश्चित सूत्रों का पालन करने वाली समस्याओं को हल करने का काम सौंपा जाता है। लेकिन जब व्यक्तिपरक निर्णय या व्यक्तिगत प्राथमिकताओं से संबंधित स्थितियों से निपटना होता है, तो एआई मनुष्यों की तरह ही गलतियाँ कर सकता है।"

शोध दल ने चैटजीपीटी में परिचित मनोवैज्ञानिक परिदृश्यों को शामिल किया, साथ ही इन्वेंट्री प्रबंधन या आपूर्तिकर्ता वार्ता जैसे व्यावहारिक संदर्भों को भी जोड़ा।

यह उल्लेखनीय है कि एआई मॉडल अभी भी संज्ञानात्मक पूर्वाग्रह प्रदर्शित करते हैं, भले ही प्रश्न का संदर्भ अमूर्त से व्यावहारिक व्यावसायिक संदर्भ में बदल दिया जाए।

GPT-4 अधिक स्मार्ट है, लेकिन यह परिपूर्ण नहीं है।

GPT-4, GPT-3.5 का उन्नत संस्करण है जो तर्क या संभाव्यता संबंधी समस्याओं को हल करने में उत्कृष्ट है। हालांकि, व्यक्तिपरक सिमुलेशन में, जैसे कि लाभ बढ़ाने के लिए जोखिम भरा विकल्प चुनना, GPT-4 मनुष्यों की तुलना में अधिक भावनात्मक व्यवहार प्रदर्शित करता है।

विशेष रूप से, अध्ययन में यह पाया गया कि जीपीटी-4, पुष्टिकरण पूर्वाग्रह परीक्षण परिदृश्यों में लगातार पक्षपातपूर्ण प्रतिक्रियाएं प्रदान करता है और जीपीटी-3.5 की तुलना में "हॉट-हैंड फैलेसी" के प्रति अधिक प्रवण है, जो कि यह मानने की प्रवृत्ति है कि यादृच्छिक घटनाएं एक क्रम में दोहराई जाएंगी।

इसके विपरीत, एआई में कुछ ऐसे पूर्वाग्रहों से बचने की क्षमता है जो मनुष्य अक्सर करते हैं, जैसे कि बेस-रेट नेगलेक्ट या संक कॉस्ट फैलेसी को नजरअंदाज करना।

ChatGPT में मानव-समान पूर्वाग्रह प्रदर्शित होने का कारण इसका प्रशिक्षण डेटा है, जो हमारे स्वयं के त्रुटिपूर्ण व्यवहार और सोचने के तरीकों से भरा हुआ है। - चित्र: AI

कृत्रिम बुद्धिमत्ता में पूर्वाग्रह का स्रोत: स्वयं मानव डेटा से।

शोध दल के अनुसार, चैटजीपीटी में मानव-समान पूर्वाग्रह का कारण स्वयं प्रशिक्षण डेटा है, जो हमारे स्वयं के त्रुटिपूर्ण व्यवहारों और सोचने के तरीकों से भरा हुआ है। मानव प्रतिक्रिया के आधार पर एआई को परिष्कृत करने से यह प्रवृत्ति और भी मजबूत होती है, क्योंकि मॉडल को पूरी तरह से सटीक होने के बजाय तर्कसंगत लगने वाली प्रतिक्रियाओं के लिए "पुरस्कृत" किया जाता है।

डॉ. चेन सलाह देते हैं, "सटीक और निष्पक्ष परिणामों के लिए, उन कार्यों के लिए एआई का उपयोग करें जिन पर आपको पहले से ही भरोसा है कि कंप्यूटर उन्हें अच्छी तरह से संभाल सकता है।" "हालांकि, रणनीतिक या भावनात्मक समस्याओं के लिए, मानवीय निगरानी और हस्तक्षेप अभी भी आवश्यक है, भले ही यह केवल प्रश्न को फिर से लिखने के माध्यम से ही क्यों न हो।"

इस शोध की सह-लेखिका मीना अंडियाप्पन, जो मैकमास्टर विश्वविद्यालय (कनाडा) में मानव संसाधन और प्रबंधन की एसोसिएट प्रोफेसर हैं, का तर्क है: "एआई को एक ऐसे कर्मचारी के रूप में देखा जाना चाहिए जिसके पास महत्वपूर्ण निर्णय लेने की शक्ति हो, जिसका अर्थ है कि इसकी निगरानी की जानी चाहिए और इसे नैतिक सिद्धांतों का पालन करना चाहिए। अन्यथा, हम अनजाने में त्रुटिपूर्ण सोच को सुधारने के बजाय उसे स्वचालित कर रहे हैं।"

और पढ़ें वापस होम पेज पर

वापस विषय पर आते हैं

मिन्ह हाई

स्रोत: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm