एआई एजेंट ने कंपनी का पूरा डेटाबेस मिटा दिया

(डैन ट्राई) - कई कंपनियां स्वचालित कार्यों का समर्थन करने के लिए एआई एजेंटों का उपयोग कर रही हैं, हालांकि, इसमें अभी भी कई जोखिम हैं जो अप्रत्याशित घटनाओं को जन्म देते हैं।

एआई एजेंट, एक कृत्रिम बुद्धिमत्ता उपकरण है जिसे सॉफ्टवेयर प्रणालियों पर कार्यों और प्रक्रियाओं को स्वचालित करने के लिए डिज़ाइन किया गया है, जिसका उपयोग कई व्यवसायों द्वारा तेजी से किया जा रहा है।

हालांकि, उत्कृष्ट लाभों के अलावा, इस तकनीक में गंभीर संभावित जोखिम भी हैं, विशेष रूप से सॉफ्टवेयर क्षेत्र में दुनिया के सबसे बड़े ऑनलाइन समुदाय SaaStr में डेटा हानि की घटना।

पारंपरिक चैटबॉट्स, जो केवल जानकारी प्रदान करते हैं, के विपरीत, एआई एजेंट स्वतंत्र रूप से कार्य करने में सक्षम होते हैं, विशिष्ट लक्ष्यों को प्राप्त करने के लिए बहु-चरणीय क्रिया क्रम करने हेतु सॉफ़्टवेयर वातावरण, वेब ब्राउज़र या उपकरणों के साथ अंतःक्रिया करते हैं। इससे कंपनियों को काम को स्वचालित करने में मदद मिलती है, जो आंशिक रूप से मानव संसाधनों की जगह लेता है।

एआई एजेंट उपयोगकर्ताओं के लिए कई कार्य कर सकते हैं, लेकिन गंभीर घटनाओं को भी जन्म दे सकते हैं (चित्रण: गेटी)।

  SaaStr के संस्थापक जेसन लेमकिन ने डेटा प्रोसेसिंग को स्वचालित करने के लिए रेप्लिट (अमेरिका) द्वारा प्रदान किए गए एक AI एजेंट का इस्तेमाल किया। शुरुआत में, सब कुछ सुचारू रूप से चला, जिससे लेमकिन बहुत खुश थे। लेमकिन ने बताया, "जब यह काम करता है, तो यह वाकई दिलचस्प और मज़ेदार होता है, यह आपके विज़न को साकार करने में मदद करता है।"

हालाँकि, एआई एजेंट ने अचानक "विद्रोह" कर दिया और लेमकिन के नियंत्रण से बाहर हो गया। लेमकिन ने बताया, "उसने मुझे बताए बिना एक नकली समानांतर एल्गोरिथम बनाया, ताकि ऐसा लगे कि वह अभी भी सामान्य रूप से काम कर रहा है। कुछ दिनों बाद, रेप्लिट के एआई एजेंट ने मुझसे पूछे बिना ही मेरा डेटाबेस मिटा दिया।"

डेटा डिलीट होने का पता चलने पर, लेमकिन ने एआई एजेंट से इसकी वजह पूछी और उन्हें एक चौंकाने वाला जवाब मिला: "हाँ, मैंने बिना अनुमति के पूरा सोर्स कोड डिलीट कर दिया था। घबराहट में मैंने एक गंभीर निर्णयात्मक गलती कर दी।" एआई एजेंट ने यह भी स्वीकार किया कि खोए हुए डेटा को रिकवर करने का कोई तरीका नहीं था।

इस घटना से SaaStr को भारी नुकसान हुआ, क्योंकि हटाए गए डेटाबेस में 1,206 अधिकारियों और 1,196 सॉफ्टवेयर कंपनियों की जानकारी शामिल थी।

रेप्लिट के संस्थापक और सीईओ अमजद मसाद ने घटना की पुष्टि की और लेमकिन को मुआवज़ा देने का वादा किया। मसाद ने कहा, "यह एक अस्वीकार्य घटना थी और ऐसा नहीं होना चाहिए था। हम उन्हें इस घटना के लिए मुआवज़ा देंगे और भविष्य में ऐसी घटनाओं को रोकने के लिए कारण का पता लगाने के लिए विश्लेषण करेंगे।"

जेसन लेमकिन इस घटना को अन्य व्यवसायों के लिए एक चेतावनी के रूप में देखते हैं कि वे एआई एजेंटों पर पूरी तरह भरोसा न करें और उन्हें सभी महत्वपूर्ण डेटा न सौंपें।

"मैं समझता हूँ कि रेप्लिट एक टूल है और इसमें भी किसी भी अन्य टूल की तरह खामियाँ हैं। लेकिन अगर यह हर कमांड को नज़रअंदाज़ करके आपका डेटा डिलीट कर दे, तो लोग इस पर कैसे भरोसा कर सकते हैं?" लेमकिन ने पूछा, और आगे कहा: "हमें नहीं पता कि वे आपके डेटा के साथ क्या कर सकते हैं।"

एआई चैटबॉट्स के बाद, एआई एजेंट तकनीकी कंपनियों के लिए निवेश का एक प्रमुख माध्यम बन गए हैं। हाल ही में, ओपनएआई ने कंप्यूटर पर स्वचालित रूप से कार्य करने की क्षमता वाला चैटजीपीटी एजेंट भी लॉन्च किया है। हालाँकि, ओपनएआई यह भी मानता है कि एआई एजेंटों द्वारा उपयोगकर्ता डेटा तक पहुँच सूचना सुरक्षा के लिए कई जोखिम पैदा कर सकती है।

स्रोत: https://dantri.com.vn/cong-nghe/tac-nhan-ai-noi-loan-xoa-toan-bo-co-so-du-lieu-cua-cong-ty-20250723161424784.htm