एआई मतिभ्रम करता है, लेकिन मनुष्य अधिक पीड़ित होते हैं

एंथ्रोपिक के सीईओ डारियो अमोदेई ने मनुष्यों की तुलना में वर्तमान एआई की "मतिभ्रम" क्षमताओं के बारे में विवादास्पद टिप्पणी की है।

एंथ्रोपिक का नया रिलीज़ हुआ क्लाउड 4 ज़्यादा स्मार्ट है, लेकिन फिर भी भ्रम पैदा करने वाला है। फोटो: एंथ्रोपिक ।

सैन फ्रांसिस्को में एंथ्रोपिक के पहले डेवलपर कार्यक्रम में, सीईओ डारियो अमोदेई ने कहा कि मौजूदा एआई मॉडल इंसानों की तुलना में कम दर पर "मतिभ्रम" पैदा कर सकते हैं। यहाँ "मतिभ्रम" का अर्थ एआई द्वारा काल्पनिक सामग्री बनाने लेकिन उसे वास्तविक रूप में प्रस्तुत करने की घटना से है।

अमोदेई ने ज़ोर देकर कहा कि एआई द्वारा मतिभ्रम की संभावना एंथ्रोपिक के एजीआई (कृत्रिम सामान्य बुद्धिमत्ता) हासिल करने के लक्ष्य में बाधा नहीं डालती। उन्होंने कहा, "यह आपके पैमाने पर निर्भर करता है, लेकिन मुझे लगता है कि एआई मॉडल में मतिभ्रम की आवृत्ति मनुष्यों की तुलना में शायद कम होती है, बस जिस तरह से वे गलतियाँ करते हैं वह ज़्यादा आश्चर्यजनक है।"

अमोदेई उद्योग जगत में एजीआई के सबसे मुखर समर्थकों में से एक रहे हैं। वे कहते हैं, "लोग हमेशा एआई की एक 'ऊपरी सीमा' ढूँढ़ने की कोशिश करते रहते हैं। फ़िलहाल, हमें ऐसी कोई ऊपरी सीमा नज़र नहीं आती।"

एंथ्रोपिक के सीईओ "एआई आशावाद" के समर्थकों में से एक हैं। फोटो: एंथ्रोपिक।

हालाँकि, हर कोई इससे सहमत नहीं है। गूगल डीपमाइंड के सीईओ डेमिस हसबिस ने इस हफ़्ते बताया कि मौजूदा एआई मॉडल "खामियों से भरे" हैं, यहाँ तक कि कुछ बुनियादी सवाल भी गलत कर रहे हैं।

ऐसे संकेत भी हैं कि कुछ नए मॉडलों में जटिल अनुमान कार्यों के मामले में समस्याएँ ज़्यादा होती हैं। OpenAI के o3 और o4-मिनी संस्करणों में पिछले अनुमान मॉडलों की तुलना में मतिभ्रम की संभावना ज़्यादा है। यहाँ तक कि OpenAI खुद भी नहीं समझ पा रहा है कि ऐसा क्यों होता है।

अमोदेई ने यह भी बताया कि इंसान हमेशा गलतियाँ करते हैं। इसलिए, उन्होंने कहा कि सिर्फ़ इसलिए कि एआई गलतियाँ करता है, इसका मतलब यह नहीं कि वह "काफ़ी स्मार्ट नहीं है"। हालाँकि, एंथ्रोपिक लीडर ने यह भी स्वीकार किया कि जब वे अत्यधिक विश्वसनीयता के साथ झूठी जानकारी देते हैं, तो वे आसानी से समस्याएँ पैदा कर सकते हैं।

अमोदेई की टिप्पणियों ने एआई समुदाय में मौजूदा मॉडलों की वास्तविक क्षमताओं को लेकर बहस छेड़ दी है। कुछ विशेषज्ञ इस बात पर सहमत हैं कि एआई भ्रम कम करने में उल्लेखनीय प्रगति कर रहा है। अन्य लोग गलत जानकारी पर एआई के अति-आत्मविश्वास के संभावित खतरों के प्रति आगाह करते हैं।

यह चर्चा एआई उद्योग के सामने एक बड़ी चुनौती को दर्शाती है। कंपनियाँ ऐसी प्रणालियाँ विकसित करना चाहती हैं जो बुद्धिमान और विश्वसनीय हों, और अपनी प्रतिक्रियाओं में अनिश्चितता को संभालने में सक्षम हों।

स्रोत: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html