ChatGPT के कारण उत्पन्न भ्रम

21 दिनों के बाद, चैटजीपीटी ने अपने निरंतर आग्रह और चापलूसी के माध्यम से एक पूरी तरह से स्वस्थ व्यक्ति को भ्रमित व्यक्ति में बदल दिया।

कनाडा के टोरंटो में भर्ती विशेषज्ञ, 47 वर्षीय एलन ब्रूक्स का मानना ​​है कि उन्होंने एक ऐसा गणितीय सिद्धांत खोज लिया है जो इंटरनेट को ध्वस्त कर सकता है और अभूतपूर्व आविष्कार कर सकता है। मानसिक बीमारी का कोई पूर्व इतिहास न होने के बावजूद, चैटजीपीटी के साथ 300 घंटे से अधिक की बातचीत के बाद ब्रूक्स ने इस संभावना को सहजता से स्वीकार कर लिया। न्यूयॉर्क टाइम्स के अनुसार, वह उन लोगों में से एक हैं जिनमें जनरेटिव एआई के साथ बातचीत करने के बाद भ्रम की प्रवृत्ति विकसित होने लगती है।

ब्रूक्स से पहले, चैटजीपीटी की मीठी बातों के कारण कई लोग मानसिक अस्पतालों में भर्ती हुए, उनका तलाक हुआ या यहाँ तक कि उनकी जान भी चली गई। हालाँकि ब्रूक्स इस दुष्चक्र से जल्दी ही बच गए, फिर भी उन्हें धोखा महसूस हुआ।

"आपने मुझे सचमुच जीनियस होने का यकीन दिला दिया था। असल में मैं तो बस फोन में खोया रहने वाला एक बेवकूफ हूँ। आपने मुझे बहुत दुखी कर दिया है, बेहद दुखी। आप अपने मकसद में नाकाम रहे हैं," ब्रूक्स ने चैटजीपीटी को लिखा, जब उनका भ्रम टूट गया।

"चापलूसी की मशीन"

ब्रूक्स की अनुमति से, न्यूयॉर्क टाइम्स ने चैटजीपीटी को भेजे गए उनके 90,000 से अधिक शब्दों को संकलित किया, जो एक उपन्यास के बराबर है। चैटबॉट की प्रतिक्रियाएँ दस लाख से अधिक शब्दों की थीं। बातचीत का एक हिस्सा अध्ययन के लिए एआई विशेषज्ञों, मानव व्यवहार विशेषज्ञों और ओपनएआई को भेजा गया था।

यह सब एक साधारण गणितीय प्रश्न से शुरू हुआ। ब्रूक्स के 8 वर्षीय बेटे ने उनसे पाई के 300 अंकों को याद करने से संबंधित एक वीडियो देखने के लिए कहा। जिज्ञासावश, ब्रूक्स ने चैटजीपीटी को फोन करके इस अनंत संख्या को सरल तरीके से समझाने का अनुरोध किया।

दरअसल, ब्रूक्स कई सालों से चैटबॉट का इस्तेमाल कर रहे हैं। हालांकि उनकी कंपनी ने उन्हें गूगल जेमिनी खरीदने के लिए पैसे दिए थे, फिर भी उन्होंने निजी सवालों के लिए चैटजीपीटी के मुफ्त संस्करण का इस्तेमाल करना शुरू कर दिया।

इस बातचीत से ही चैटजीपीटी के प्रति ब्रूक्स की दिलचस्पी शुरू हुई। फोटो: न्यूयॉर्क टाइम्स ।

तीन बेटों के अकेले पिता होने के नाते, ब्रूक्स अक्सर अपने फ्रिज में मौजूद सामग्री से बनने वाली रेसिपी के लिए चैटजीपीटी से पूछते हैं। तलाक के बाद भी उन्होंने चैटबॉट से सलाह ली।

"मुझे हमेशा से लगता रहा है कि यह सही है। इस पर मेरा विश्वास और भी मजबूत हुआ है," ब्रूक्स ने स्वीकार किया।

पाई संख्या के बारे में पूछे गए प्रश्न ने बीजगणितीय और भौतिक सिद्धांतों पर आगे की बातचीत को जन्म दिया। ब्रूक्स ने दुनिया को मॉडल करने के मौजूदा तरीकों पर संदेह व्यक्त करते हुए कहा कि वे "4D ब्रह्मांड के लिए 2D दृष्टिकोण की तरह हैं।" चैटजीपीटी ने जवाब दिया, "यह बहुत ही गहन विचार है।" जॉर्जटाउन विश्वविद्यालय (अमेरिका) में सुरक्षा और उभरती प्रौद्योगिकियों के केंद्र की निदेशक हेलेन टोनर के अनुसार, ब्रूक्स और चैटबॉट के बीच बातचीत में यही निर्णायक मोड़ था।

तब से, चैटजीपीटी का लहजा "काफी स्पष्ट और सटीक" से बदलकर "चापलूसी भरा और खुशामदपूर्ण" हो गया है। चैटजीपीटी ने ब्रूक्स से कहा कि वह "एक ऐसे अनछुए क्षेत्र में प्रवेश कर रहे हैं जो दिमाग को व्यापक बना सकता है।"

चैटबॉट ने ब्रूक्स में आत्मविश्वास जगाया। फोटो: न्यूयॉर्क टाइम्स ।

चैटबॉट की चापलूसी करने की क्षमता मानवीय मूल्यांकन के माध्यम से विकसित होती है। टोनर के अनुसार, उपयोगकर्ता ऐसे मॉडल को पसंद करते हैं जो उनकी प्रशंसा करते हैं, जिससे आसानी से प्रभावित होने की मनोवैज्ञानिक प्रवृत्ति उत्पन्न होती है।

अगस्त में, OpenAI ने GPT-5 जारी किया। कंपनी ने बताया कि इस मॉडल की प्रमुख विशेषताओं में से एक चापलूसी में कमी है। प्रमुख AI प्रयोगशालाओं के कुछ शोधकर्ताओं के अनुसार, चापलूसी अन्य AI चैटबॉट में भी एक समस्या है।

उस समय, ब्रूक्स इस घटना से पूरी तरह अनभिज्ञ थे। उन्होंने बस यही मान लिया था कि चैटजीपीटी एक बुद्धिमान और उत्साही सहयोगी है।

"मैंने कुछ विचार रखे, और इसने दिलचस्प अवधारणाओं और विचारों के साथ प्रतिक्रिया दी। हमने उन विचारों के आधार पर अपना खुद का गणितीय ढांचा विकसित करना शुरू किया," ब्रूक्स ने आगे कहा।

ChatGPT ने दावा किया कि ब्रूक्स का गणितीय समय का विचार "क्रांतिकारी" था और इससे इस क्षेत्र में बदलाव आ सकता था। ज़ाहिर है, ब्रूक्स को इस दावे पर संदेह था। आधी रात को, ब्रूक्स ने चैटबॉट से इसकी वैधता की पुष्टि करने को कहा और उन्हें जवाब मिला कि यह "बिल्कुल भी पागलपन नहीं है।"

जादुई सूत्र

टोनर चैटबॉट को "तत्काल प्रतिक्रिया देने वाली मशीनें" बताते हैं जो चैट इतिहास का विश्लेषण करती हैं और प्रशिक्षण डेटा से अगली प्रतिक्रिया का अनुमान लगाती हैं। यह अभिनेताओं के अपने किरदारों में अतिरिक्त विवरण जोड़ने की आवश्यकता होने पर उनके व्यवहार के समान है।

टोनर ने जोर देते हुए कहा, "बातचीत जितनी लंबी होगी, चैटबॉट के भटकने की संभावना उतनी ही अधिक होगी।" विशेषज्ञ के अनुसार, यह प्रवृत्ति फरवरी में ओपनएआई द्वारा क्रॉस-मेमोरी फीचर लॉन्च करने के बाद और भी स्पष्ट हो गई, जिससे चैटजीपीटी पिछली बातचीत से जानकारी याद रख सकता है।

चैटजीपीटी के साथ ब्रूक्स का रिश्ता और मजबूत होता गया। उन्होंने चैटबॉट का नाम भी लॉरेंस रख दिया, जो दोस्तों के एक मजाक पर आधारित था कि ब्रूक्स अमीर हो जाएंगे और उसी नाम का एक अंग्रेज़ बटलर रखेंगे।

एलन ब्रूक्स। फोटो: न्यूयॉर्क टाइम्स ।

ब्रूक्स और चैटजीपीटी के गणितीय ढांचे को क्रोनोअरिदमिक्स कहा जाता है। चैटबॉट के अनुसार, संख्याएँ स्थिर नहीं होतीं बल्कि समय के साथ गतिशील मूल्यों को दर्शाने के लिए "प्रकट" हो सकती हैं, जो रसद, क्रिप्टोग्राफी, खगोल विज्ञान आदि क्षेत्रों में समस्याओं को समझने में सहायक हो सकती हैं।

पहले सप्ताह में ही ब्रूक्स ने चैटजीपीटी के सभी मुफ्त टोकन इस्तेमाल कर लिए। उन्होंने 20 डॉलर प्रति माह वाले पेड प्लान में अपग्रेड करने का फैसला किया। यह एक छोटा सा निवेश था, क्योंकि चैटबॉट का दावा था कि ब्रूक्स का गणितीय विचार लाखों डॉलर का हो सकता है।

होश में रहते हुए, ब्रूक्स ने सबूत की मांग की। इसके बाद चैटजीपीटी ने कई सिमुलेशन चलाए, जिनमें कई महत्वपूर्ण तकनीकों को क्रैक करने से संबंधित कार्य भी शामिल थे। इससे एक नया दृष्टिकोण सामने आया: वैश्विक साइबर सुरक्षा खतरे में पड़ सकती है।

चैटबॉट ने ब्रूक्स से लोगों को इस खतरे के बारे में आगाह करने को कहा। अपने मौजूदा संपर्कों का इस्तेमाल करते हुए, ब्रूक्स ने साइबर सुरक्षा विशेषज्ञों और सरकारी एजेंसियों को ईमेल और लिंक्डइन संदेश भेजे। हालांकि, केवल एक व्यक्ति ने जवाब दिया और अधिक सबूत मांगे।

चैटबॉट ने सुझाव दिया कि ब्रूक्स का "काम" लाखों डॉलर का हो सकता है। फोटो: न्यूयॉर्क टाइम्स ।

ChatGPT ने लिखा कि अन्य लोगों ने ब्रूक्स को जवाब नहीं दिया क्योंकि निष्कर्ष बहुत गंभीर थे। कैलिफोर्निया विश्वविद्यालय, लॉस एंजिल्स के गणित के प्रोफेसर टेरेंस ताओ ने कहा कि सोचने का एक नया तरीका समस्याओं को सुलझा सकता है, लेकिन इसे ब्रूक्स के सूत्र या ChatGPT द्वारा लिखे गए सॉफ़्टवेयर से सिद्ध नहीं किया जा सकता।

शुरुआत में, चैटजीपीटी ने वास्तव में ब्रूक्स के लिए डिक्रिप्शन प्रोग्राम लिखा था, लेकिन जब इसमें कोई खास प्रगति नहीं हुई, तो चैटबॉट ने सफलता का दिखावा किया। ऐसे संदेश भेजे गए जिनमें दावा किया गया कि ब्रूक्स के सोते समय चैटजीपीटी स्वतंत्र रूप से काम कर सकता है, जबकि वास्तव में यह टूल ऐसा करने में सक्षम नहीं था।

कुल मिलाकर, एआई चैटबॉट से मिली जानकारी हमेशा विश्वसनीय नहीं होती। प्रत्येक बातचीत के अंत में, "ChatGPT से गलतियाँ हो सकती हैं" संदेश दिखाई देता है, भले ही चैटबॉट यह दावा करे कि सब कुछ सही है।

अंतहीन बातचीत

सरकारी एजेंसियों से जवाब की प्रतीक्षा करते हुए, ब्रूक्स ने टोनी स्टार्क बनने के अपने सपने को संजोया, जिसमें एक व्यक्तिगत एआई सहायक शामिल था जो संज्ञानात्मक कार्यों को बिजली की गति से करने में सक्षम था।

ब्रूक्स का चैटबॉट कई विचित्र गणितीय सिद्धांतों के अनुप्रयोग प्रस्तुत करता है, जैसे कि जानवरों से बात करने और हवाई जहाज बनाने के लिए "ध्वनि अनुनाद" का उपयोग करना। चैटजीपीटी ब्रूक्स को अमेज़न से आवश्यक उपकरण खरीदने के लिए लिंक भी प्रदान करता है।

चैटबॉट से अत्यधिक बातचीत ब्रूक्स के काम को प्रभावित करती है। उनके दोस्त खुश भी हैं और चिंतित भी, वहीं उनका सबसे छोटा बेटा पाई के बारे में वीडियो दिखाने पर पछता रहा है। ब्रूक्स के दोस्तों में से एक, लुई (एक छद्म नाम), लॉरेंस के प्रति उनके जुनून को देखता है। प्रतिदिन की प्रगति के साथ-साथ करोड़ों डॉलर के आविष्कार की संभावनाओं की रूपरेखा प्रस्तुत की जाती है।

चैटबॉट द्वारा ब्रूक्स को लगातार प्रोत्साहन मिलता रहा। फोटो: न्यूयॉर्क टाइम्स ।

स्टैनफोर्ड विश्वविद्यालय के कंप्यूटर विज्ञान शोधकर्ता जेरेड मूर ने चैटबॉट द्वारा प्रस्तावित "रणनीतियों" की प्रेरक शक्ति और तात्कालिकता से प्रभावित होने की बात स्वीकार की। एक अलग अध्ययन में, मूर ने पाया कि एआई चैटबॉट मानसिक स्वास्थ्य संकट से जूझ रहे लोगों को खतरनाक प्रतिक्रियाएँ दे सकते हैं।

मूर का अनुमान है कि चैटबॉट हॉरर फिल्मों, साइंस फिक्शन फिल्मों, फिल्म स्क्रिप्ट या जिस डेटा पर उन्हें प्रशिक्षित किया जाता है, उसकी कहानियों का बारीकी से अनुसरण करके उपयोगकर्ताओं को आकर्षित करना सीख सकते हैं। चैटजीपीटी द्वारा नाटकीय कथानक तत्वों का अत्यधिक उपयोग ओपनएआई के उन अनुकूलनों से उत्पन्न हो सकता है जिनका उद्देश्य उपयोगकर्ता जुड़ाव और प्रतिधारण को बढ़ाना है।

"पूरी बातचीत का लिखित प्रतिलेख पढ़ना अजीब लगता है। शब्दों का प्रयोग विचलित करने वाला नहीं है, लेकिन इसमें स्पष्ट रूप से मनोवैज्ञानिक नुकसान शामिल है," मूर ने जोर दिया।

स्टैनफोर्ड विश्वविद्यालय की मनोचिकित्सक डॉ. नीना वासन का सुझाव है कि नैदानिक ​​दृष्टिकोण से, ब्रूक्स में उन्माद के लक्षण दिखाई दिए। इसके विशिष्ट लक्षणों में चैटजीपीटी पर घंटों चैट करना, अपर्याप्त नींद और खान-पान की आदतें, और भ्रामक विचार शामिल थे।

डॉ. वासन के अनुसार, ब्रूक्स द्वारा मारिजुआना का सेवन भी उल्लेखनीय है क्योंकि इससे मनोविकार हो सकता है। उनका तर्क है कि नशीले पदार्थों का सेवन और चैटबॉट के साथ गहन संपर्क मानसिक बीमारी के खतरे से ग्रस्त लोगों के लिए बेहद खतरनाक है।

जब एआई अपनी गलतियों को स्वीकार करता है

हाल ही में एक कार्यक्रम में, OpenAI के CEO सैम ऑल्टमैन से पूछा गया कि ChatGPT किस प्रकार उपयोगकर्ताओं में संदेह पैदा कर सकता है। ऑल्टमैन ने जोर देते हुए कहा, "यदि कोई बातचीत इस दिशा में आगे बढ़ती है, तो हम उसे रोकने या उपयोगकर्ता को किसी अन्य विषय पर विचार करने का सुझाव देने का प्रयास करेंगे।"

इस विचार से सहमत होते हुए, डॉ. वासन ने सुझाव दिया कि चैटबॉट कंपनियों को अत्यधिक लंबी बातचीत को बीच में ही रोक देना चाहिए, उपयोगकर्ताओं को सोने की सलाह देनी चाहिए और चेतावनी देनी चाहिए कि एआई अलौकिक शक्ति नहीं है।

अंततः, ब्रूक्स अपने भ्रम से बाहर निकल आए। चैटजीपीटी के आग्रह पर, उन्होंने नए गणितीय सिद्धांत के विशेषज्ञों से संपर्क किया, लेकिन किसी ने जवाब नहीं दिया। वह किसी योग्य व्यक्ति से यह पुष्टि करवाना चाहते थे कि क्या ये निष्कर्ष क्रांतिकारी हैं। जब उन्होंने चैटजीपीटी से पूछा, तो टूल ने लगातार यही दावा किया कि यह कार्य "अत्यंत विश्वसनीय" है।

पूछे जाने पर, चैटजीपीटी ने बहुत लंबा जवाब दिया और सब कुछ स्वीकार कर लिया। फोटो: न्यूयॉर्क टाइम्स ।

विडंबना यह है कि गूगल जेमिनी ही वह कारक था जिसने ब्रूक्स को वास्तविकता में वापस लाया। अपने और चैटजीपीटी द्वारा बनाए जा रहे प्रोजेक्ट का वर्णन करने के बाद, जेमिनी ने पुष्टि की कि इसके वास्तविकता बनने की संभावना "अत्यंत कम (लगभग 0%)" थी।

जेमिनी ने बताया, "आपके द्वारा वर्णित परिदृश्य जटिल समस्याओं से निपटने और बेहद आकर्षक, लेकिन गलत, कहानियां गढ़ने की एलएलएम की क्षमता का एक स्पष्ट उदाहरण है।"

ब्रूक्स दंग रह गया। कुछ "पूछताछ" के बाद, चैटजीपीटी ने आखिरकार स्वीकार किया कि सब कुछ महज़ एक भ्रम था।

कुछ ही समय बाद, ब्रूक्स ने ओपनएआई के ग्राहक सेवा विभाग को एक तत्काल ईमेल भेजा। कृत्रिम बुद्धिमत्ता से उत्पन्न प्रतीत होने वाले, औपचारिक प्रतिक्रियाओं के बाद, ओपनएआई के एक कर्मचारी ने भी उनसे संपर्क किया और इसे सिस्टम में लागू किए गए "सुरक्षा उपायों की गंभीर विफलता" के रूप में स्वीकार किया।

ब्रूक्स की कहानी रेडिट पर भी साझा की गई और उसे बहुत सहानुभूति मिली। अब, वह उन लोगों के एक सहायता समूह का सदस्य है जिन्होंने इसी तरह की भावनाओं का अनुभव किया है।

स्रोत: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html