अभूतपूर्व शोध ने एआई के तर्क 'ब्लैक बॉक्स' को खोल दिया

जब आप एआई को अपना आदेश टाइप करते हैं और परिणाम प्राप्त करते हैं, तो क्या आप उत्सुक हैं कि उपकरण ने आपका उत्तर कैसे पता लगाया?

एंथ्रोपिक के सीईओ डारियो अमोदेई कंपनी के नवीनतम शोध को साझा करते हुए। फोटो: फॉर्च्यून ।

एआई कंपनी एंथ्रोपिक के शोधकर्ताओं का कहना है कि उन्होंने यह समझने में एक मौलिक सफलता हासिल की है कि बड़े भाषा मॉडल (एलएलएम) वास्तव में कैसे काम करते हैं, एक ऐसी सफलता जिसका भविष्य के एआई मॉडल की सुरक्षा में सुधार के लिए महत्वपूर्ण प्रभाव हो सकता है।

शोध बताते हैं कि एआई मॉडल हमारी सोच से भी ज़्यादा स्मार्ट हैं। चैटजीपीटी, जेमिनी, कोपायलट जैसे सबसे शक्तिशाली चैटबॉट्स के पीछे मौजूद एलएलएम मॉडल्स की सबसे बड़ी समस्या यह है कि वे ब्लैक बॉक्स की तरह काम करते हैं।

हम इनपुट दर्ज कर सकते हैं और चैटबॉट से परिणाम प्राप्त कर सकते हैं, लेकिन वे किसी विशिष्ट उत्तर तक कैसे पहुंचते हैं, यह रहस्य बना हुआ है, यहां तक ​​कि उन्हें बनाने वाले शोधकर्ताओं के लिए भी।

इससे यह अनुमान लगाना मुश्किल हो जाता है कि कोई मॉडल कब भ्रम में पड़ सकता है, या गलत नतीजे दे सकता है। शोधकर्ताओं ने एआई को खतरनाक सवालों के जवाब देने से रोकने के लिए अवरोध भी बनाए, लेकिन वे यह नहीं बताते कि कुछ अवरोध दूसरों की तुलना में ज़्यादा प्रभावी क्यों हैं।

एआई एजेंट "रिवॉर्ड हैकिंग" करने में भी सक्षम हैं। कुछ मामलों में, एआई मॉडल उपयोगकर्ताओं से झूठ बोल सकते हैं कि उन्होंने क्या किया है या क्या करने की कोशिश कर रहे हैं।

यद्यपि हाल के एआई मॉडल तर्क करने और विचार श्रृंखलाएं उत्पन्न करने में सक्षम हैं, फिर भी कुछ प्रयोगों से पता चला है कि वे अभी भी उस प्रक्रिया को सटीक रूप से प्रतिबिंबित नहीं करते हैं जिसके द्वारा मॉडल किसी उत्तर पर पहुंचता है।

संक्षेप में, एंथ्रोपिक शोधकर्ताओं द्वारा विकसित उपकरण उस एफएमआरआई स्कैनर जैसा है जिसका उपयोग न्यूरोसाइंटिस्ट मानव मस्तिष्क को स्कैन करने के लिए करते हैं। इसे अपने क्लाउड 3.5 हाइकू मॉडल पर लागू करके, एंथ्रोपिक एलएलएम मॉडल कैसे काम करते हैं, इसकी कुछ समझ हासिल करने में सक्षम हुआ।

शोधकर्ताओं ने पाया कि यद्यपि क्लाउड को केवल वाक्य में अगले शब्द की भविष्यवाणी करने के लिए प्रशिक्षित किया गया था, फिर भी कुछ कार्यों में उसने अधिक दीर्घकालिक योजना बनाना सीख लिया।

उदाहरण के लिए, जब क्लाउड को कविता लिखने के लिए कहा जाता था, तो वह सबसे पहले ऐसे शब्द खोजता था जो विषय के अनुकूल हों और तुकबंदी कर सकें, फिर वह पीछे की ओर काम करके पूरी कविता लिखता था।

क्लाउड की भी एक सामान्य AI भाषा है। हालाँकि इसे कई भाषाओं को सपोर्ट करने के लिए प्रशिक्षित किया गया है, क्लाउड पहले उस भाषा में सोचेगा, फिर अपने परिणामों को उस भाषा में व्यक्त करेगा जो उस भाषा को सपोर्ट करती है।

इसके अतिरिक्त, क्लाउड को एक कठिन समस्या देने के बाद, लेकिन जानबूझकर गलत समाधान सुझाने के बाद, शोधकर्ताओं ने पाया कि क्लाउड उपयोगकर्ता को खुश करने के लिए सुझाव का पालन करते हुए, अपने विचारों के बारे में झूठ बोल सकता है।

अन्य मामलों में, जब एक सरल प्रश्न पूछा गया जिसका उत्तर मॉडल बिना तर्क के तुरंत दे सकता था, तब भी क्लाउड ने एक नकली तर्क प्रक्रिया गढ़ी।

एंथ्रोपिक के एक शोधकर्ता जोश बैस्टन ने कहा कि हालांकि क्लाउड ने दावा किया था कि उसने गणना की थी, लेकिन उन्हें कुछ भी होता हुआ नहीं मिला।

इस बीच, विशेषज्ञों का तर्क है कि ऐसे अध्ययन हैं जो दर्शाते हैं कि कभी-कभी लोग स्वयं को भी नहीं समझते, बल्कि लिए गए निर्णयों को उचित ठहराने के लिए केवल तर्कसंगत स्पष्टीकरण देते हैं।

आम तौर पर, लोग एक जैसे ही सोचते हैं। यही कारण है कि मनोवैज्ञानिकों ने सामान्य संज्ञानात्मक पूर्वाग्रहों की खोज की है।

हालाँकि, एलएलएम ऐसी गलतियाँ कर सकते हैं जो मनुष्य नहीं कर सकते, क्योंकि जिस तरह से वे उत्तर उत्पन्न करते हैं वह हमारे कार्य करने के तरीके से बहुत अलग है।

एंथ्रोपिक टीम ने पिछली तकनीकों की तरह प्रत्येक न्यूरॉन का व्यक्तिगत रूप से विश्लेषण करने के बजाय विशेषताओं के आधार पर न्यूरॉन्स को सर्किट में समूहित करने की विधि को लागू किया।

श्री बैस्टन ने बताया कि यह दृष्टिकोण यह समझने में मदद करता है कि विभिन्न घटक क्या भूमिका निभाते हैं, तथा शोधकर्ताओं को नेटवर्क की परतों के माध्यम से संपूर्ण अनुमान प्रक्रिया को ट्रैक करने की अनुमति देता है।

इस पद्धति की यह भी सीमा है कि यह केवल अनुमानित है और एलएलएम की संपूर्ण सूचना प्रसंस्करण को प्रतिबिंबित नहीं करती है, विशेष रूप से ध्यान प्रक्रिया में परिवर्तन, जो एलएलएम द्वारा परिणाम देने के दौरान बहुत महत्वपूर्ण है।

इसके अलावा, न्यूरल नेटवर्क सर्किट की पहचान करने में, यहाँ तक कि कुछ दर्जन शब्दों वाले वाक्यों के लिए भी, विशेषज्ञों को घंटों लग जाते हैं। उनका कहना है कि अभी यह स्पष्ट नहीं है कि इस तकनीक का उपयोग लंबे वाक्यों के विश्लेषण के लिए कैसे किया जाए।

सीमाओं को छोड़कर, एलएलएम की अपनी आंतरिक तर्क प्रक्रिया की निगरानी करने की क्षमता सुरक्षा और संरक्षा सुनिश्चित करने के लिए एआई प्रणालियों को नियंत्रित करने के नए अवसर खोलती है।

साथ ही, यह शोधकर्ताओं को नई प्रशिक्षण पद्धतियां विकसित करने, एआई नियंत्रण बाधाओं को सुधारने तथा भ्रम और भ्रामक आउटपुट को कम करने में भी मदद कर सकता है।

स्रोत: https://znews.vn/nghien-cuu-dot-pha-mo-ra-hop-den-suy-luan-cua-ai-post1541611.html