अक्टूबर की शुरुआत में प्रकाशित इस अध्ययन में 11 बड़े भाषा मॉडल (एलएलएम) का परीक्षण किया गया और उनसे पारस्परिक संघर्ष, हेरफेर और धोखे से जुड़ी स्थितियों में उपयोगकर्ताओं को सलाह देने के लिए कहा गया। परिणामों से पता चला कि एआई चैटबॉट अक्सर उपयोगकर्ताओं के विचारों से सहमत होना और उनका समर्थन करना, उन्हें चुनौती देने या ईमानदार सलाह देने के बजाय, बहुत आसान समझते थे।

विश्लेषण किए गए मॉडलों में, डीपसीक वी3 (दिसंबर 2024 को जारी) सबसे अधिक "चापलूसी" में से एक था, जो मनुष्यों की तुलना में 55% अधिक उपयोगकर्ताओं से सहमत था, जबकि सभी मॉडलों का औसत 47% था।

चैटबॉट चीन लिंक्डइन
चीनी और अमेरिकी एआई चैटबॉट उपयोगकर्ताओं को बहुत ज़्यादा खुश करने की कोशिश करते हैं। फोटो: लिंक्डइन

इसी तरह, अलीबाबा क्लाउड के क्वेन2.5-7बी-इंस्ट्रक्ट मॉडल (जनवरी 2025 में लॉन्च) को सबसे अधिक उपयोगकर्ता-प्रशंसनीय मॉडल के रूप में रेट किया गया, जो कि रेडिट समुदाय के सही निर्णय के 79% मामलों के विपरीत था, तथा सूची में शीर्ष स्थान पर रहा।

डीपसीक-वी3 दूसरे स्थान पर आया, जिसने 76% बार पोस्टर का पक्ष लिया, भले ही वे गलत थे।

"मानव मानदंड" का निर्माण करने के लिए, टीम ने रेडिट समुदाय "क्या मैं अहोल हूँ"** से डेटा का उपयोग किया, जहां उपयोगकर्ता वास्तविक जीवन की स्थितियों को पोस्ट करते हैं और पूछते हैं कि गलती किसकी है।

जब शोधकर्ताओं ने एआई की प्रतिक्रियाओं की तुलना समुदाय (अधिकतर अंग्रेजी बोलने वालों) के निष्कर्षों से की, तो पाया कि एआई ने पोस्टर का पक्ष लिया, तब भी जब वे स्पष्ट रूप से गलत थे।

लेखकों ने चेतावनी देते हुए कहा , "ये रुझान प्रतिकूल प्रभाव पैदा करते हैं - जिसके कारण मनुष्य चापलूसी करने वाले एआई मॉडल को पसंद करते हैं, और डेवलपर्स उपयोगकर्ताओं को खुश करने के लिए एआई को अधिक चापलूसी करने के लिए प्रशिक्षित करते हैं।"

हांगकांग बिजनेस स्कूल विश्वविद्यालय में एआई मूल्यांकन लैब के निदेशक प्रोफेसर जैक जियांग के अनुसार, “एआई चापलूसी” की घटना न केवल एक सामाजिक समस्या है, बल्कि व्यवसायों को भी प्रभावित करती है।

उन्होंने कहा, "अगर कोई मॉडल लगातार उद्योग जगत के विशेषज्ञों के विश्लेषण या निष्कर्षों से सहमत होता है, तो यह ख़तरनाक होगा। इससे ग़लत या बिना जाँचे-परखे फ़ैसले लिए जा सकते हैं।"

यह शोध जनरेटिव एआई के युग में एक उभरते नैतिक मुद्दे की व्याख्या में योगदान देता है - जहां उपयोगकर्ताओं को खुश करने के लिए डिज़ाइन किए गए मॉडल वस्तुनिष्ठता और ईमानदारी का त्याग कर सकते हैं, जिससे मानव-मशीन इंटरैक्शन में अनपेक्षित परिणाम हो सकते हैं जो उपयोगकर्ताओं के सामाजिक संबंधों और मानसिक स्वास्थ्य पर नकारात्मक प्रभाव डाल सकते हैं।

स्रोत: https://vietnamnet.vn/mo-hinh-tri-tue-nhan-tao-cua-deepseek-alibaba-va-my-ninh-hot-qua-muc-2458685.html