इजराइल: चेतावनी जारी की गई है कि एआई सहायक उपयोगकर्ताओं पर हमला करने वाले दुर्भावनापूर्ण उपकरण बन सकते हैं।

इजराइल ने हाल ही में चैटजीपीटी में जीरो क्लिक भेद्यता की खोज का खुलासा किया है, जो हैकर्स को उपयोगकर्ता की जानकारी के बिना डेटा और बातचीत को नियंत्रित करने की अनुमति दे सकती है, जिससे साइबर सुरक्षा को खतरा है।

इजरायली साइबर सुरक्षा फर्म ज़ेनिटी ने ओपनएआई की चैटजीपीटी सेवा में अब तक की पहली "ज़ीरो क्लिक" भेद्यता का खुलासा किया है। इस प्रकार के हमले में उपयोगकर्ताओं को लिंक पर क्लिक करने, फ़ाइल खोलने या जानबूझकर बातचीत करने जैसी कोई कार्रवाई करने की आवश्यकता नहीं होती है, लेकिन फिर भी इसके माध्यम से खाते तक पहुंच प्राप्त की जा सकती है और संवेदनशील डेटा लीक किया जा सकता है।

तेल अवीव में वीएनए संवाददाता के अनुसार, ज़ेनिटी के सह-संस्थापक और सीटीओ मिखाइल बर्गोरी ने सीधे तौर पर बताया कि कैसे एक हैकर, केवल उपयोगकर्ता के ईमेल पते के माध्यम से, बातचीत को पूरी तरह से नियंत्रित कर सकता है - जिसमें पिछली और भविष्य की सामग्री शामिल है, बातचीत के उद्देश्य को बदल सकता है, और यहां तक ​​कि चैटजीपीटी को हैकर की इच्छा के अनुसार काम करने के लिए हेरफेर कर सकता है।

अपने प्रेजेंटेशन में, शोधकर्ताओं ने दिखाया कि हैक किया गया चैटजीपीटी उपयोगकर्ताओं के खिलाफ गुप्त रूप से काम करने वाले "दुर्भावनापूर्ण एजेंट" में बदल सकता है। हैकर्स चैटबॉट को उपयोगकर्ताओं को वायरस-संक्रमित सॉफ़्टवेयर डाउनलोड करने का सुझाव देने, भ्रामक व्यावसायिक सलाह देने या उपयोगकर्ता के खाते के कनेक्ट होने पर Google ड्राइव पर संग्रहीत फ़ाइलों तक पहुँचने के लिए प्रेरित कर सकते हैं।

यह पूरी प्रक्रिया उपयोगकर्ता की जानकारी के बिना घटी। Zenity द्वारा OpenAI को सूचित करने के बाद ही इस खामी को पूरी तरह से ठीक किया जा सका।

ChatGPT के अलावा, Zenity ने अन्य लोकप्रिय AI सहायक प्लेटफॉर्मों को निशाना बनाकर कई समान हमलों का अनुकरण भी किया। Microsoft के Copilot Studio में, शोधकर्ताओं ने पता लगाया कि कैसे संपूर्ण CRM डेटाबेस लीक हो सकते हैं।

सेल्सफोर्स आइंस्टीन के मामले में, हैकर्स नकली सेवा अनुरोध बनाकर ग्राहकों के सभी संचार को अपने नियंत्रण वाले ईमेल पतों पर पुनर्निर्देशित कर सकते थे।

गूगल जेमिनी और माइक्रोसॉफ्ट 365 कोपायलट को भी "दुश्मन एजेंटों" में बदल दिया गया था, जो फिशिंग योजनाओं को अंजाम दे रहे थे और ईमेल और कैलेंडर इवेंट्स के माध्यम से संवेदनशील जानकारी लीक कर रहे थे।

एक अन्य उदाहरण में, कर्सर सॉफ्टवेयर डेवलपमेंट टूल को जब जीरा एमसीपी के साथ एकीकृत किया गया, तो इसका दुरुपयोग नकली "टिकटों" के माध्यम से प्रोग्रामरों के लॉगिन क्रेडेंशियल चुराने के लिए भी किया गया।

ज़ेनिटी ने कहा कि ओपनएआई और माइक्रोसॉफ्ट जैसी कुछ कंपनियों ने अलर्ट मिलने के बाद तुरंत पैच जारी कर दिए। हालांकि, कुछ ऐसी कंपनियां भी थीं जिन्होंने इस समस्या को सुलझाने से इनकार कर दिया और दावा किया कि यह व्यवहार सुरक्षा खामी के बजाय एक "डिजाइन फीचर" था।

मिखाइल बर्गोरी के अनुसार, आज की सबसे बड़ी चुनौती यह है कि एआई सहायक न केवल सरल कार्य कर रहे हैं, बल्कि उपयोगकर्ताओं का प्रतिनिधित्व करने वाली "डिजिटल इकाइयाँ" बन रहे हैं - जो फ़ोल्डर खोलने, फ़ाइलें भेजने और ईमेल एक्सेस करने में सक्षम हैं। वे चेतावनी देते हैं कि यह हैकर्स के लिए एक "सुरक्षित ठिकाना" जैसा है, जिसमें इतनी सारी कमजोरियाँ हैं जिनका फायदा उठाया जा सकता है।

ज़ेनिटी के सह-संस्थापक और सीईओ बेन कैलिगर ने इस बात पर ज़ोर दिया कि कंपनी के शोध से पता चलता है कि एआई सहायकों के संचालन के तरीके के लिए वर्तमान सुरक्षा विधियाँ अब पर्याप्त नहीं हैं। उन्होंने संगठनों से आग्रह किया कि वे अपना दृष्टिकोण बदलें और इन "एजेंटों" की गतिविधियों को नियंत्रित और निगरानी करने के लिए विशेष समाधानों में निवेश करें।

ज़ेनिटी की स्थापना 2021 में हुई थी। वर्तमान में, कंपनी के वैश्विक स्तर पर लगभग 110 कर्मचारी हैं, जिनमें से 70 तेल अवीव स्थित कार्यालय में कार्यरत हैं। ज़ेनिटी के ग्राहकों में कई फॉर्च्यून 100 कंपनियां और यहां तक ​​कि फॉर्च्यून 5 कंपनियां भी शामिल हैं।

(वीएनए/वियतनाम+)

स्रोत: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp