चैटजीपीटी उपयोगकर्ताओं की जानकारी चोरी होने का खतरा

चैटजीपीटी की दीर्घकालिक मेमोरी सुविधा फरवरी 2024 में ओपनएआई द्वारा शुरू की गई एक नई सुविधा है और सितंबर में इसका विस्तार किया गया है।

हाल ही में सुरक्षा शोधकर्ता जोहान रेहबर्गर ने इस सुविधा से संबंधित एक गंभीर भेद्यता का खुलासा किया।

यह ज्ञात है कि यह नया फ़ीचर चैटबॉट्स को पिछली बातचीत की जानकारी संग्रहीत करने में मदद करता है। इसकी बदौलत, उपयोगकर्ताओं को हर बार चैट करते समय उम्र, रुचियों या व्यक्तिगत विचारों जैसी जानकारी दोबारा दर्ज नहीं करनी पड़ती। हालाँकि, यह हमलावरों के लिए एक कमज़ोरी बन गया है जिसका वे फायदा उठा सकते हैं।

चैटजीपीटी उपयोगकर्ताओं की जानकारी चोरी होने का खतरा

जोहान रेहबर्गर ने दिखाया कि हैकर्स प्रॉम्प्ट इंजेक्शन नामक एक तकनीक का इस्तेमाल कर सकते हैं—मेमोरी में दुर्भावनापूर्ण निर्देश डालकर, एआई को उनका पालन करने के लिए मजबूर कर सकते हैं। ये आदेश ईमेल, दस्तावेज़ों या वेबसाइटों जैसी अविश्वसनीय सामग्री के माध्यम से दिए जाएँगे।

एक बार जब ये नकली यादें संग्रहीत हो जाती हैं, तो एआई उपयोगकर्ताओं के साथ बातचीत में उन्हें वास्तविक जानकारी के रूप में उपयोग करना जारी रखेगा, जिससे उपयोगकर्ताओं के व्यक्तिगत डेटा का संग्रह और दुरुपयोग हो सकता है।

रेहबर्गर ने एक विशिष्ट उदाहरण देते हुए एक दुर्भावनापूर्ण छवि वाला लिंक भेजा जिससे ChatGPT में एक झूठी मेमोरी संग्रहीत हो गई। यह जानकारी ChatGPT की भविष्य की प्रतिक्रियाओं को प्रभावित करेगी। विशेष रूप से, उपयोगकर्ता द्वारा दर्ज की गई कोई भी जानकारी हैकर के सर्वर पर भी भेजी जाएगी।

तदनुसार, हमले को ट्रिगर करने के लिए, हैकर को केवल ChatGPT उपयोगकर्ताओं को दुर्भावनापूर्ण छवि वाले लिंक पर क्लिक करने के लिए राजी करना होगा। इसके बाद, ChatGPT के साथ उपयोगकर्ता की सभी चैट बिना कोई निशान छोड़े हमलावर के सर्वर पर पुनर्निर्देशित हो जाएँगी।

रेहबर्गर ने मई 2024 में OpenAi को इस बग की सूचना दी, लेकिन कंपनी ने इसे केवल एक सुरक्षा खामी माना। उपयोगकर्ता डेटा चोरी होने के सबूत मिलने के बाद, कंपनी ने ChatGPT के वेब संस्करण पर एक अस्थायी पैच जारी किया।

हालाँकि इस समस्या को अस्थायी रूप से ठीक कर दिया गया है, रेहबर्गर बताते हैं कि अविश्वसनीय सामग्री अभी भी चैटजीपीटी की दीर्घकालिक मेमोरी में फर्जी जानकारी डालने के लिए प्रॉम्प्ट इंजेक्शन का इस्तेमाल कर सकती है। इसका मतलब है कि कुछ मामलों में, हैकर्स अभी भी इस भेद्यता का फायदा उठाकर दुर्भावनापूर्ण मेमोरी स्टोर करके व्यक्तिगत जानकारी को दीर्घकालिक रूप से चुरा सकते हैं।

ओपनएआई ने उपयोगकर्ताओं को सलाह दी है कि वे चैटजीपीटी की संग्रहीत मेमोरी को नियमित रूप से गलत सकारात्मकता के लिए जांचें, और कंपनी इस टूल में संग्रहीत मेमोरी को प्रबंधित करने और हटाने के बारे में विस्तृत निर्देश भी प्रदान करती है।

स्रोत: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html