हैकर्स AI चैटबॉट से 'बात' करके गोपनीय कंपनी की जानकारी प्राप्त कर सकते हैं

प्रौद्योगिकी विशेषज्ञों के अनुसार, परिष्कृत संकेतों की एक श्रृंखला का उपयोग करके, हैकर्स किसी कंपनी के 'गोपनीय' डेटाबेस में बिना पकड़े गए घुसपैठ कर सकते हैं।

"वियतनाम का डिजिटल सफलता युग" थीम के साथ ओपनइन्फ्रा और क्लाउड नेटिव डे वियतनाम 2025 कार्यक्रम का अवलोकन - फोटो: ची हियू

कृत्रिम बुद्धिमत्ता (एआई) कई मूल्य लाती है, विशेष रूप से अब कई व्यवसायों द्वारा कंपनी के कर्मचारियों, ग्राहकों जैसे अंतिम उपयोगकर्ताओं की सेवा के लिए एकीकृत किया गया है... यहां से, एआई-एकीकृत चैटबॉट सिस्टम हैकर्स के लिए डेटा भंडारण प्रणालियों पर हमला करने और जानकारी चुराने के लिए एक "संकीर्ण द्वार" बन सकता है।

"वर्तमान में, एआई मॉडल पर हमला करने के कई तरीके हैं, जिनमें से सबसे आम है 'सामग्री विषाक्तता', जो पारंपरिक सूचना सुरक्षा प्रणालियों के लिए 'अदृश्य' प्रतीत होती है," अकामाई टेक्नोलॉजीज वियतनाम के देश निदेशक श्री दाओ वियत हंग ने 26 जुलाई को हनोई में आयोजित ओपनइंफ्रा एंड क्लाउड नेटिव डे वियतनाम 2025 कार्यक्रम में चेतावनी दी।

यह कार्यक्रम वियतनाम इंटरनेट एसोसिएशन (वीआईए) द्वारा वियतनाम ओपन इंफ्रास्ट्रक्चर कम्युनिटी (वियतओपनइंफ्रा), वियतनाम क्लाउड कंप्यूटिंग और डेटा सेंटर क्लब (वीएनसीडीसी) के समन्वय से विज्ञान और प्रौद्योगिकी मंत्रालय के सहयोग से आयोजित किया गया था।

90% व्यवसाय खुले प्लेटफॉर्म या सॉफ्टवेयर का उपयोग कर रहे हैं

अपने उद्घाटन भाषण में, वियतनाम इंटरनेट एसोसिएशन के उपाध्यक्ष और महासचिव श्री वु द बिन्ह ने राष्ट्रीय डिजिटल परिवर्तन प्रक्रिया में खुले बुनियादी ढांचे और खुले स्रोत कोड के महत्व पर जोर दिया।

वैश्विक प्रौद्योगिकी में तेजी से हो रहे बदलावों के संदर्भ में, श्री बिन्ह ने कहा कि खुला बुनियादी ढांचा नवाचार के आधार के रूप में विकसित हो रहा है, जबकि 90% से अधिक व्यवसाय कई रूपों में खुले प्लेटफार्मों या सॉफ्टवेयर का उपयोग कर रहे हैं।

रेड हैट सर्वेक्षण (2024) के अनुसार, 82% तकनीकी दिग्गज ओपन प्लेटफॉर्म और सॉफ्टवेयर को डिजिटल परिवर्तन को गति देने और नवाचार को गति देने के लिए महत्वपूर्ण मानते हैं। कुबेरनेट्स, ओपनस्टैक, लिनक्स, सेफ, ओपनटेलीमेट्री जैसे प्लेटफॉर्म एआई, आईओटी, 5जी/6जी और क्लाउड नेटिव सिस्टम के संचालन में तेजी से महत्वपूर्ण भूमिका निभा रहे हैं।

"दस साल पहले, क्लाउड को आकाश में बादलों के समान समझा जाता था, और ओपन सोर्स किसी 'मार्शल आर्ट रहस्य' जैसा लगता था। लेकिन आज, हम यहाँ हैं, 180 से ज़्यादा देशों में वैश्विक ओपन इंफ्रास्ट्रक्चर समुदाय के साथ जुड़ रहे हैं, और साथ मिलकर कोड की पंक्तियों को नवाचार की प्रेरक शक्ति में बदल रहे हैं," श्री वु द बिन्ह ने बताया।

एआई चैटबॉट - हैकर्स के लिए सिस्टम में घुसपैठ का "संकीर्ण द्वार"

"वर्तमान में, कई व्यवसाय खुले, उत्तरदायी प्लेटफार्मों की प्रभावशीलता को दृढ़ता से लागू कर रहे हैं जो कार्य प्रदर्शन को बेहतर बनाने और उपयोगकर्ता अनुभव को बढ़ाने में मदद करने के लिए एआई चैटबॉट जैसी प्रणालियों को एकीकृत करते हैं।

अकामाई टेक्नोलॉजीज वियतनाम के कंट्री डायरेक्टर श्री दाओ वियत हंग ने चेतावनी दी कि यहां से भी एआई मॉडलों पर हमले के कई तरीके सामने आएंगे, जिनमें "कंटेंट पॉइजनिंग" हमले भी शामिल हैं।

उन्होंने टिप्पणी की कि जब वियतनामी व्यवसाय एआई का उपयोग कर रहे थे, तब भी उन्हें इस प्रकार के हमले के बारे में ज्यादा जानकारी नहीं थी।

तदनुसार, बुरे अभिनेता एआई मॉडल से लगातार गलत जानकारी पूछने और फिर से सिखाने की विधि का उपयोग करते हैं, जिससे सूचना "विषाक्तता" होती है।

यदि क्लाउड सिस्टम पर मौजूद जानकारी "संक्रमित" हो गई है और उसका पता नहीं लगाया जा सका है तथा उसका उपयोग जारी है, तो यह गलत जानकारी प्रदान करेगा या जानकारी प्राप्त करने के उद्देश्य से डेटाबेस में घुसपैठ करने के लिए इस भेद्यता का उपयोग करेगा।

श्री दाओ वियत हंग, अकामाई टेक्नोलॉजीज वियतनाम के कंट्री डायरेक्टर - फोटो: ची हियू

श्री दाओ वियत हंग ने एक दुर्लभ घटना का उदाहरण दिया, जब एक ऑटो कंपनी की ऑनलाइन बिक्री चैटबॉट प्रणाली को केवल 1 डॉलर में एक नई कार बेचने के लिए राजी कर लिया गया था।

इसका कारण यह है कि चैटबॉट के साथ आदान-प्रदान और बातचीत की प्रक्रिया के दौरान, इस ग्राहक ने डेटाबेस में "चुपके से" घुसने और चैटबॉट को उपरोक्त अनुरोध पर सहमत होने के लिए राजी करने का एक तरीका ढूंढ लिया।

एक अन्य उदाहरण यह है कि हैकर्स ने उचित प्रश्न बनाकर और उन्हें आंतरिक एआई चैटबॉट को भेजकर किसी कंपनी के सभी गोपनीय दस्तावेज और संगठनात्मक चार्ट सफलतापूर्वक प्राप्त कर लिए।

उस जोखिम से, श्री दाओ वियत हंग ने एआई सुरक्षा समाधान साझा किया ताकि एआई स्वयं एआई की रक्षा कर सके, यह दुनिया में कई बड़े उद्यमों द्वारा उपयोग किया जाने वाला एक रूप है।

इस सुरक्षा पद्धति के साथ, संग्रहीत डेटा सुरक्षा की कई परतों को एकीकृत करता है, जिससे इसे "संक्रमित" करना मुश्किल हो जाता है।

एआई सुरक्षा प्रणाली यह पता लगा सकती है कि कौन सी जानकारी साफ है और कौन सी जानकारी पर हमले का संभावित खतरा है, जिससे निपटने के लिए त्वरित और उचित योजना बनाई जा सकेगी...

विषय पर वापस जाएँ

शील

स्रोत: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm