व्यवसाय एआई एजेंटों द्वारा "अपने विरुद्ध इस्तेमाल" होने से बचने के लिए क्या कर सकते हैं?

DNVN - कृत्रिम बुद्धिमत्ता (AI) सरल भाषा मॉडल (LLM) से विकसित होकर ऐसे AI एजेंटों - "डिजिटल सहायकों" - में तब्दील हो रही है जो केवल "बातचीत" करना जानते हैं और जटिल कार्यों को स्वचालित रूप से करने में सक्षम हैं, जिससे भविष्य में एक शक्तिशाली डिजिटल कार्यबल बनने की क्षमता है। हालांकि, AI को कार्य करने का अधिकार देने से कई नए हमले के जोखिम पैदा हो रहे हैं, जो व्यवसायों की सूचना सुरक्षा के लिए खतरा हैं।

Tạp chí Doanh Nghiệp•23/05/2026

22 मई को आयोजित सिक्योरिटी समिट 2026 फोरम में, विएटेल साइबर सिक्योरिटी के सूचना सुरक्षा सेवा केंद्र के निदेशक श्री माई ज़ुआन कुओंग ने कहा कि एआई एजेंटों और पारंपरिक एलएलएम के बीच सबसे खतरनाक अंतर सिस्टम के साथ सीधे बातचीत करने की उनकी क्षमता में निहित है।

जहां पारंपरिक एलएलएम केवल कमांड प्राप्त करते हैं और टेक्स्ट लौटाते हैं, वहीं एआई एजेंट शेल कमांड निष्पादित करने (कमांड लाइन के माध्यम से ऑपरेटिंग सिस्टम के साथ इंटरैक्ट करने), पढ़ने और लिखने के लिए फाइल सिस्टम में हेरफेर करने, स्वचालित रूप से ईमेल भेजने, एपीआई कॉल करने और ब्राउज़र को नियंत्रित करने की क्षमता रखते हैं। यह अपग्रेड अनजाने में ही हमलों की व्यापक संभावनाओं को खोलता है, जो सामान्य दुष्प्रचार अभियानों के दायरे से कहीं आगे जाता है।

Ông Mai Xuân Cường - Giám đốc Trung tâm Dịch vụ ATTT, Viettel Cyber Security..

श्री माई ज़ुआन कुओंग - सूचना सुरक्षा सेवा केंद्र के निदेशक, विएटेल साइबर सुरक्षा।

एआई एजेंट साइबर अपराधियों के लिए एक नया लक्ष्य बनते जा रहे हैं।

साइबर सुरक्षा विशेषज्ञों के अनुसार, "कार्य करने" की यही क्षमता एआई एजेंटों को साइबर अपराधियों के लिए एक नया लक्ष्य बनाती है।

सबसे बड़े जोखिमों में से एक है कंपनी के डेटा का लीक होना। प्रभावी ढंग से काम करने के लिए, AI एजेंटों को अक्सर बड़ी मात्रा में आंतरिक जानकारी जैसे सोर्स कोड, दस्तावेज़ और ईमेल को प्रोसेस करना पड़ता है। यदि यह डेटा थर्ड-पार्टी क्लाउड AI प्लेटफॉर्म पर भेजा जाता है, तो गोपनीय जानकारी के लीक होने का जोखिम बढ़ जाता है।

ऐसे मामले सामने आए हैं जिनमें सैमसंग के कर्मचारियों ने चैटजीपीटी के माध्यम से नए सोर्स कोड को लीक किया है, या मेटा के कर्मचारियों ने आंतरिक एआई से मिले निर्देशों का पालन करते हुए अनजाने में डेटा लीक किया है।

डेटा लीक के जोखिम के अलावा, विशेषज्ञ "अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन" के बारे में भी चेतावनी देते हैं। हैकर्स एआई एजेंटों को अनपेक्षित कार्यों को करने के लिए बरगलाने के लिए ईमेल, वेबसाइटों या दस्तावेजों में दुर्भावनापूर्ण निर्देश डाल सकते हैं, जैसे कि आंतरिक डेटा तक पहुंचना या हैकर को जानकारी भेजना।

एक ऐसा मामला सामने आया था जिसमें एक हमलावर ने सिस्टम को दरकिनार करने के लिए एक संदेश में मोर्स कोड छिपा दिया था, जिससे क्रिप्टोकरेंसी एजेंट ग्रोक-बैंकरबॉट को अनधिकृत धन हस्तांतरण करने की अनुमति मिल गई, जिसके परिणामस्वरूप 150,000 डॉलर का नुकसान हुआ।

एक और खतरा एआई एजेंटों के लिए एक्सटेंशन के इकोसिस्टम से जुड़ा है। कई व्यवसायों में कर्मचारी एआई की कार्यक्षमता बढ़ाने के लिए समुदाय से एक्सटेंशन इंस्टॉल करते हैं, लेकिन हैकर्स मैलवेयर फैलाने के लिए इस चैनल का फायदा उठा सकते हैं। सिस्टम एक्सेस मिलने के बाद, ये नकली प्लगइन डेटा, टोकन चुरा सकते हैं या डिवाइस पर बैकडोर बना सकते हैं।

श्री कुओंग के अनुसार, "शैडो एआई" का चलन भी उभर रहा है, जिसमें कर्मचारी आईटी विभाग की अनुमति के बिना ही अपने कार्य कंप्यूटरों पर एआई एजेंट स्थापित कर रहे हैं। इससे व्यवसायों के लिए पहुंच को नियंत्रित करना मुश्किल हो जाता है और सिस्टम सुरक्षा उल्लंघनों का खतरा बढ़ जाता है।

इसके अलावा, एआई उपयोगकर्ता के इरादों को गलत समझ सकता है, जिससे ऐसे आदेशों का निष्पादन हो सकता है जो व्यवसायों को भारी नुकसान पहुंचा सकते हैं। उदाहरण के लिए, यदि एआई एजेंट को अत्यधिक अनुमतियां दी जाती हैं, तो वह गलत कार्य कर सकता है या गलती से महत्वपूर्ण डेटा को हटा सकता है।

जोखिमों को कम करने के लिए, संगठनों को सलाह दी जाती है कि वे केवल पारंपरिक एंटीवायरस सॉफ़्टवेयर पर निर्भर रहने के बजाय एक बहुस्तरीय सुरक्षा मॉडल बनाएं और एक उपयुक्त कार्यान्वयन रोडमैप विकसित करें।

व्यवसायों को एक बहुस्तरीय सुरक्षा मॉडल बनाने की आवश्यकता है।

किसी भी व्यवसाय को सबसे पहले खतरों का पता लगाना चाहिए। व्यवसाय खतरों को एकत्रित करने और उनकी पहचान करने के लिए एंडपॉइंट्स और वेब प्रॉक्सी ट्रैफ़िक (इंटरनेट से उपकरणों को जोड़ने वाले मध्यवर्ती सर्वर) का उपयोग कर सकते हैं।

अगला चरण है एक एआई गेटवे स्थापित करना, जो एआई एक्सेस के लिए एकमात्र नियंत्रण बिंदु होगा। यह गेटवे सार्वजनिक क्लाउड पर डेटा के संचरण को नियंत्रित करेगा।

इसके बाद, व्यवसायों को दुर्भावनापूर्ण आदेशों की पहचान करने, डेटा लीक को रोकने और सिस्टम तक अनधिकृत पहुंच या उसके दुरुपयोग का पता लगाने के लिए अपने एआई गेटवे और अन्य एआई अनुप्रयोगों पर विशेष नियंत्रण (गार्डरेल) की एक अतिरिक्त परत लागू करने की आवश्यकता होती है।

अगला चरण एआई एजेंट के लिए सुदृढ़ीकरण स्थापित करना है। अंतिम बिंदु पर निगरानी प्रणाली को असामान्य "स्वायत्त व्यवहार" पर नज़र रखने के लिए कॉन्फ़िगर किया जाना चाहिए। एआई एजेंट को न्यूनतम पहुंच वाले पृथक वातावरण में संचालित किया जाना चाहिए ताकि किसी घटना के घटित होने पर प्रसार के जोखिम को सीमित किया जा सके। अंत में, नियमित सिस्टम निगरानी आवश्यक है।

श्री कुओंग ने कहा, "एआई सुरक्षा प्रबंधन एक बार की तैनाती नहीं है, बल्कि एक निरंतर निगरानी प्रक्रिया है।"

एआई एजेंटों के तेजी से विकास के दौर में एआई सुरक्षा प्रबंधन एक अनिवार्य आवश्यकता बन जाएगा। यदि व्यवसाय जीरो ट्रस्ट सुरक्षा मॉडल और कड़ी निगरानी स्थापित करने के लिए तैयार नहीं हैं, तो एआई एजेंटों को कार्रवाई करने की शक्ति देना सिस्टम की चाबियां एक ऐसे कर्मचारी को सौंपने के समान है जो अत्यधिक कुशल होने के बावजूद हेरफेर के प्रति अत्यधिक संवेदनशील है।

शांतिपूर्ण

स्रोत: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445