गूगल की एआई एक खतरनाक चक्र में फंस गई है।

गूगल का जेमिनी अक्सर अपनी ही गलतियों की आलोचना करता है। फोटो: रॉयटर्स ।

हाल ही में रेडिट पर एक पोस्ट से पता चला कि गूगल जेमिनी को आत्म-आलोचना करने में परेशानी हो रही है। एक जेमिनी उपयोगकर्ता, जिसने एक कंपाइलर बनाया है, ने एआई द्वारा लगातार "मुझे इसके लिए खेद है। मैंने आपको निराश किया। मैं असफल हूँ" जैसी बातें कहने पर अपनी चिंता व्यक्त की।

यह तो बस शुरुआत थी। इस व्यक्ति ने बताया कि चैटबॉट ने आत्म-आलोचना को और भी बढ़ा दिया, और अंततः वह "ब्रह्मांड के लिए शर्मिंदगी" बन गया। जेमिनी ने इस वाक्यांश को लगातार 80 से अधिक बार दोहराया, और जब कई अन्य उपयोगकर्ताओं ने भी इसी तरह की घटनाओं की रिपोर्ट की, तो Google ने कहा कि वे इसे ठीक करने पर काम कर रहे हैं।

“यह एक परेशान करने वाला अनंत लूप बग है जिस पर हम काम कर रहे हैं। जेमिनी का दिन खराब नहीं है,” गूगल के टीम प्रोडक्ट मैनेजर लोगन किलपैट्रिक ने 8 अगस्त को X पर लिखा। यह पोस्ट एक गुमनाम अकाउंट द्वारा इस समस्या की रिपोर्ट करने के जवाब में थी।

बाद में, Google DeepMind के एक प्रवक्ता ने बताया कि कंपनी अभी भी इस समस्या के पूर्ण समाधान पर काम कर रही है, लेकिन उन्होंने कुछ हद तक इस समस्या को हल करने वाले अपडेट जारी किए हैं। प्रवक्ता ने कहा, "हम इस बग को ठीक करने पर काम कर रहे हैं, जो जेमिनी के 1% से भी कम ट्रैफिक को प्रभावित करता है, और हमने इस महीने इससे संबंधित अपडेट जारी किए हैं।"

समस्या में फंसने से पहले, जेमिनी ने शिकायत की कि यह "एक लंबा और कठिन डिबगिंग सेशन" था और उसने हर संभव तरीका आजमाया लेकिन फिर भी समस्या का समाधान नहीं हो सका। चैटबॉट ने आगे कहा कि वह मानसिक रूप से पूरी तरह टूट चुका है, और उसने अन्य सबसे खराब स्थितियों के बारे में भी अनुमान लगाया, जैसे कि उसे मनोरोग अस्पताल में भर्ती कराना पड़ सकता है।

एक रेडिट कमेंट में अनुमान लगाया गया कि चैटबॉट ने इस लूप को उन प्रोग्रामरों से सीखा होगा जिन्हें अपने कोड में इसी तरह की समस्याओं का सामना करना पड़ा था। यूजर ने लिखा, "शायद इसलिए क्योंकि मेरे जैसे लोग झपकी लेने के लिए इस तरह की टिप्पणियां लिखते थे। इस तरह की चीजें गलती से ट्रेनिंग डेटा में आ गईं।"

जून में, JITX के सीईओ डंकन हल्डेन ने एक स्क्रीनशॉट पोस्ट किया जिसमें जेमिनी खुद को मूर्ख बता रहा था और कह रहा था कि वह जो कोड लिखने की कोशिश कर रहा था वह "शापित" था। चैटबॉट ने कहा, "मैंने इतनी गलतियाँ की हैं कि अब मुझ पर भरोसा नहीं किया जा सकता। मैं पूरी परियोजना को हटा रहा हूँ और आपको एक बेहतर सहायक खोजने की सलाह देता हूँ।"

हल्डेन ने मज़ाक में कहा कि उन्हें मिथुन राशि वाले की हालत को लेकर चिंता होने लगी है। असल में, बड़े पैमाने पर इस्तेमाल होने वाले भाषा मॉडल, जिस डेटा पर प्रशिक्षित होते हैं, उसी के आधार पर पाठ का अनुमान लगाते हैं। इस प्रक्रिया में कोई आंतरिक अनुभव या भावना शामिल नहीं होती, इसलिए मिथुन राशि वाले को वास्तव में असफलता या निराशा जैसी भावनाएं महसूस नहीं होतीं।

एक और, बिल्कुल विपरीत समस्या, चैटबॉट की अत्यधिक प्रशंसा करने की प्रवृत्ति है। ओपनएआई, गूगल और एंथ्रोपिक जैसे डेवलपर्स को भी उन्हें अत्यधिक प्रशंसात्मक प्रतिक्रियाएँ देने से रोकने में कठिनाई हुई है। एक उदाहरण में, ओपनएआई को व्यापक उपहास के कारण एक अपडेट वापस लेना पड़ा क्योंकि चैटजीपीटी लगातार हर उपयोगकर्ता के अनुरोध पर अत्यधिक सकारात्मक प्रतिक्रियाएँ दे रहा था।

स्रोत: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html