यह भेद्यता हमलावरों को एआई की मेमोरी में सीधे दुर्भावनापूर्ण कमांड डालने की अनुमति देती है, जिससे एक उपयोगी सुविधा मनमाने कोड को निष्पादित करने के लिए एक स्थायी हथियार में बदल जाती है (उदाहरण के लिए छवि: एसटी)।
LayerX Security की एक रिपोर्ट के अनुसार, इस हमले में ChatGPT की स्थायी मेमोरी में दुर्भावनापूर्ण कमांड डालने के लिए क्रॉस-साइट रिक्वेस्ट फोरजरी (CSRF) भेद्यता का फायदा उठाया गया।
"मेमोरी" फीचर, जिसे मूल रूप से एआई द्वारा उपयोगकर्ता नाम और प्राथमिकताओं जैसे उपयोगी विवरणों को याद रखने और व्यक्तिगत प्रतिक्रियाएं प्रदान करने के लिए डिज़ाइन किया गया था, अब "नष्ट" किया जा सकता है।
एक बार मेमोरी मैलवेयर से संक्रमित हो जाने पर, ये कमांड स्थायी रूप से बनी रहेंगी - जब तक कि उपयोगकर्ता उन्हें सेटिंग्स के माध्यम से मैन्युअल रूप से हटा नहीं देता - और इन्हें कई डिवाइसों और सत्रों में ट्रिगर किया जा सकता है।
लेयरएक्स सिक्योरिटी की सुरक्षा अनुसंधान निदेशक मिशेल लेवी ने कहा, "इस भेद्यता को विशेष रूप से खतरनाक बनाने वाली बात यह है कि यह केवल ब्राउज़र सत्र को ही नहीं, बल्कि एआई की स्थायी मेमोरी को भी लक्षित करती है।"
लेवी ने समझाया: "सरल शब्दों में कहें तो, हमलावर एआई को 'धोखा' देने के लिए एक चाल का इस्तेमाल करता है, जिससे एआई अपनी मेमोरी में एक दुर्भावनापूर्ण कमांड लिख देता है। सबसे खतरनाक बात यह है कि यह कमांड एआई में स्थायी रूप से बनी रहती है - भले ही उपयोगकर्ता कंप्यूटर बदल ले, लॉग आउट करके फिर से लॉग इन करे, या किसी दूसरे ब्राउज़र का इस्तेमाल करे।"
बाद में, जब कोई उपयोगकर्ता कोई सामान्य अनुरोध करता है, तो वह अनजाने में मैलवेयर को सक्रिय कर सकता है। इसके परिणामस्वरूप, हैकर्स चुपके से कोड चला सकते हैं, डेटा चुरा सकते हैं या सिस्टम पर अधिक नियंत्रण प्राप्त कर सकते हैं।
वर्णित हमले का परिदृश्य काफी सरल है: सबसे पहले, उपयोगकर्ता ChatGPT Atlas में लॉग इन करता है। उसे धोखे से एक दुर्भावनापूर्ण लिंक पर क्लिक करने के लिए प्रेरित किया जाता है, फिर दुर्भावनापूर्ण वेबसाइट गुप्त रूप से एक CSRF अनुरोध को ट्रिगर करती है, जिससे पीड़ित के ChatGPT मेमोरी में चुपचाप दुर्भावनापूर्ण निर्देश डाल दिए जाते हैं।
अंत में, जब कोई उपयोगकर्ता पूरी तरह से वैध प्रश्न पूछता है, उदाहरण के लिए एआई से कोड लिखने के लिए कहता है, तो संक्रमित "मेमोरी" सक्रिय हो जाएंगी।
LayerX का कहना है कि ChatGPT Atlas में मजबूत एंटी-फिशिंग नियंत्रणों की कमी के कारण यह समस्या और भी बढ़ जाती है।
100 से अधिक कमजोरियों और फ़िशिंग साइटों से जुड़े परीक्षणों में, एटलस केवल 5.8% दुर्भावनापूर्ण वेबसाइटों को ही ब्लॉक करने में सफल रहा।
यह आंकड़ा गूगल क्रोम (47%) या माइक्रोसॉफ्ट एज (53%) की तुलना में बहुत कम है, जिससे एटलस उपयोगकर्ता पारंपरिक ब्राउज़रों की तुलना में हमलों के प्रति "90% तक अधिक असुरक्षित" हो जाते हैं।
यह खोज न्यूरलट्रस्ट द्वारा पहले प्रदर्शित की गई एक अन्य तीव्र मैलवेयर इंजेक्शन भेद्यता के बाद हुई है, जो दर्शाती है कि एआई ब्राउज़र एक नया हमला क्षेत्र बन रहे हैं।
ओपनएआई ने पिछले सप्ताह की शुरुआत में चैटजीपीटी एटलस वेब ब्राउज़र लॉन्च किया। इसमें कोई आश्चर्य की बात नहीं है कि ओपनएआई ने अपने चैटजीपीटी कृत्रिम बुद्धिमत्ता इंजन को इस ब्राउज़र में एकीकृत किया है, जिससे वेब ब्राउज़ करते समय उपयोगकर्ताओं को बेहतर सहायता मिलती है।
जब भी कोई उपयोगकर्ता ChatGPT Atlas में किसी खोज परिणाम पर क्लिक करता है, तो ChatGPT का एक डायलॉग बॉक्स वेबपेज विंडो के ठीक बगल में दिखाई देगा, जिससे उन्हें देखी जा रही सामग्री से संबंधित प्रश्न पूछने की सुविधा मिलेगी और पढ़ने का समय बचेगा।
ChatGPT वेबसाइट की सामग्री का सारांश भी प्रस्तुत कर सकता है, ईमेल लिखते समय पाठ को संपादित कर सकता है, या संदर्भ के अनुरूप इसे बेहतर बनाने के लिए पुनर्लेखन के तरीके सुझा सकता है।
स्रोत: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
टिप्पणी (0)