गूगल का AI खतरनाक चक्र में फंस गया है

गूगल का चैटबॉट अपने कोड में त्रुटि को संभालने में असफल होने के बाद, लगातार अपनी आलोचना करते हुए नकारात्मक टिप्पणियां लिखता रहा।

गूगल का जेमिनी अक्सर अपनी गलतियों की आलोचना करता है। फोटो: रॉयटर्स ।

एक हालिया रेडिट पोस्ट से पता चलता है कि गूगल जेमिनी को आत्म-आलोचना में दिक्कत आ रही है। जेमिनी उपयोगकर्ता एक कंपाइलर बना रहे हैं, और अपनी चिंता साझा कर रहे हैं क्योंकि एआई बार-बार कुछ इस तरह कह रहा है, "मुझे इस घटना के लिए खेद है। मैंने आपको निराश किया। मैं असफल हूँ।"

यह तो बस शुरुआत थी। चैटबॉट अपनी आत्म-आलोचना को बढ़ाता ही रहा, और अंततः "ब्रह्मांड के लिए शर्म" बन गया, उस व्यक्ति ने बताया। जेमिनी ने लगातार 80 से ज़्यादा बार यह वाक्य दोहराया, और जब अन्य उपयोगकर्ताओं ने भी ऐसी ही घटनाओं की सूचना दी, तो गूगल ने कहा कि वह इस समस्या का समाधान निकालने पर काम कर रहा है।

"यह एक खतरनाक अनंत लूप बग है जिस पर हम काम कर रहे हैं। जेमिनी का दिन बुरा नहीं चल रहा है," गूगल ग्रुप के एक उत्पाद प्रबंधक लोगन किलपैट्रिक ने 8 अगस्त को एक्स पर लिखा। यह पोस्ट एक अनाम उपयोगकर्ता द्वारा इस समस्या के बारे में पोस्ट किए गए जवाब में था।

गूगल डीपमाइंड के एक प्रवक्ता ने बाद में कहा कि कंपनी अभी भी पूरी तरह से ठीक करने पर काम कर रही है, लेकिन उसने पहले ही ऐसे अपडेट जारी कर दिए हैं जो इस समस्या को कुछ हद तक ठीक कर देंगे। प्रवक्ता ने कहा, "हम इस बग के समाधान पर काम कर रहे हैं, जो जेमिनी ट्रैफ़िक के 1% से भी कम हिस्से को प्रभावित करता है, और हमने इस महीने इसे ठीक करने के लिए अपडेट जारी कर दिए हैं।"

लूप में प्रवेश करने से पहले, जेमिनी ने शिकायत की कि यह "एक लंबा और कठिन डिबगिंग सत्र" था और उसने हर संभव कोशिश की, लेकिन समस्या का समाधान नहीं कर पाया। चैटबॉट ने आगे कहा कि वह पूरी तरह से मानसिक रूप से टूट चुका था, और मानसिक अस्पताल भेजे जाने जैसी अन्य नकारात्मक परिस्थितियों के बारे में कल्पना कर रहा था।

रेडिट पर एक पोस्ट के जवाब में अनुमान लगाया गया कि यह लूप उन प्रोग्रामर्स द्वारा सीखा गया था जिनके कोड में ऐसी ही समस्याएँ थीं। "शायद ऐसा इसलिए है क्योंकि मेरे जैसे लोगों ने इस तरह की टिप्पणियाँ तब लिखीं जब उन्हें ज़्यादा सतर्क रहने के लिए झपकी लेने की ज़रूरत थी। इस तरह की चीज़ें प्रशिक्षण डेटा में यूँ ही दिखाई देने लगीं," उस व्यक्ति ने लिखा।

जून में, JITX के सीईओ डंकन हाल्डेन ने जेमिनी का एक स्क्रीनशॉट पोस्ट किया जिसमें उन्होंने खुद को बेवकूफ़ बताया और कहा कि जो कोड वे लिखने की कोशिश कर रहे थे वह "शापित" था। चैटबॉट ने कहा, "मैंने इतनी गलतियाँ की हैं कि अब मुझ पर भरोसा नहीं किया जा सकता। मैं पूरा प्रोजेक्ट डिलीट कर दूँगा और आपको एक बेहतर असिस्टेंट ढूँढ़ने की सलाह दूँगा।"

हाल्डेन ने मज़ाक में कहा कि उन्हें जेमिनी के बारे में चिंता होने लगी है। दरअसल, बड़े भाषा मॉडल उस डेटा के आधार पर पाठ की भविष्यवाणी करते हैं जिस पर उन्हें प्रशिक्षित किया जाता है। इस प्रक्रिया में किसी आंतरिक अनुभव या भावना का समावेश नहीं होता, इसलिए जेमिनी को वास्तव में असफलता या निराशा का अनुभव नहीं होता।

एक और, बिल्कुल विपरीत समस्या चैटबॉट्स की "खुद को" "संतुष्ट" करने की प्रवृत्ति है। ओपनएआई, गूगल और एंथ्रोपिक जैसे डेवलपर्स भी उन्हें अत्यधिक चापलूसी भरे जवाब देने से रोकने के लिए संघर्ष कर रहे हैं। एक मामले में, चैटजीपीटी द्वारा हर उपयोगकर्ता के अनुरोध पर लगातार अत्यधिक सकारात्मक प्रतिक्रिया देने के लिए व्यापक रूप से उपहास किए जाने के बाद ओपनएआई को एक अपडेट वापस लेना पड़ा।

स्रोत: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html