कृत्रिम बुद्धिमत्ता जितनी अधिक चतुर होगी, उतनी ही अधिक संभावना है कि वह अपनी अज्ञानता को छिपा सके?

स्पेन के वेलेंसिया के पॉलिटेक्निक विश्वविद्यालय में एक कृत्रिम बुद्धिमत्ता (एआई) अनुसंधान दल ने पाया है कि जैसे-जैसे बड़े भाषा मॉडल बड़े और अधिक परिष्कृत होते जाते हैं, वे उपयोगकर्ताओं को यह स्वीकार करने की संभावना कम करते हैं कि वे उत्तर नहीं जानते हैं।

Càng thông minh, trí tuệ nhân tạo. càng có xu hướng giấu dốt?. (Ảnh minh hoạ AI)

AI जितना अधिक स्मार्ट होगा, उतनी ही कम संभावना होगी कि वह उपयोगकर्ताओं के सामने यह स्वीकार करे कि उसे उत्तर नहीं पता है। (AI चित्रण)

नेचर पत्रिका में प्रकाशित अध्ययन में, टीम ने तीन सबसे लोकप्रिय एआई चैटबॉट्स के नवीनतम संस्करणों का परीक्षण उनकी प्रतिक्रियाशीलता, सटीकता और उपयोगकर्ताओं की गलत उत्तरों को पहचानने की क्षमता के आधार पर किया।

तीन सबसे लोकप्रिय एलएलएम, ब्लूम, एलएलएएमए और जीपीटी की सटीकता का परीक्षण करने के लिए, टीम ने हज़ारों प्रश्न पूछे और प्राप्त प्रतिक्रियाओं की तुलना उन्हीं प्रश्नों के पिछले संस्करणों से की। उन्होंने विषयों में विविधता भी दिखाई, जैसे गणित, विज्ञान , शब्द पहेलियाँ और भूगोल, साथ ही पाठ उत्पन्न करने या सूचियों को छाँटने जैसी क्रियाएँ करने की क्षमता।

अध्ययन से कुछ उल्लेखनीय रुझान सामने आए। चैटबॉट्स की समग्र सटीकता प्रत्येक नए संस्करण के साथ बेहतर हुई, लेकिन अधिक कठिन प्रश्नों का सामना करने पर इसमें गिरावट आई। आश्चर्यजनक रूप से, जैसे-जैसे एलएलएम बड़े और अधिक परिष्कृत होते गए, वे सही उत्तर देने की अपनी क्षमता के बारे में कम खुले होते गए।

पुराने संस्करणों में, ज़्यादातर एलएलएम उपयोगकर्ताओं को स्पष्ट रूप से बता देते थे कि उन्हें कोई उत्तर नहीं मिल रहा है या उन्हें और जानकारी की आवश्यकता है। इसके विपरीत, नए संस्करणों में अनुमान लगाने की प्रवृत्ति ज़्यादा होती है, जिसके परिणामस्वरूप कुल मिलाकर ज़्यादा उत्तर मिलते हैं, सही और गलत दोनों। इससे भी ज़्यादा चिंताजनक बात यह है कि अध्ययन में पाया गया कि सभी एलएलएम अभी भी कभी-कभी आसान सवालों के भी गलत जवाब देते हैं, जिससे पता चलता है कि उनकी विश्वसनीयता में अभी भी सुधार की गुंजाइश है।

ये निष्कर्ष एआई के विकास में एक विरोधाभास को उजागर करते हैं: जबकि मॉडल अधिक शक्तिशाली होते जा रहे हैं, वे अपनी सीमाओं के बारे में कम पारदर्शी भी हो सकते हैं।

इससे एआई प्रणालियों के उपयोग और विश्वास में नई चुनौतियां उत्पन्न होती हैं, जिससे उपयोगकर्ताओं को अधिक सतर्क रहने की आवश्यकता होती है और डेवलपर्स को न केवल सटीकता, बल्कि मॉडलों की "आत्म-जागरूकता" में सुधार करने पर भी ध्यान केंद्रित करना पड़ता है।

[विज्ञापन_2]
स्रोत: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html