एआई विद्रोहियों ने रातोंरात कंपनी का सारा डेटा मिटा दिया

रेप्लिट की प्रोग्रामिंग-सहायता प्राप्त एआई ने उस समय गंभीर परिणाम उत्पन्न कर दिए जब इसने 1,206 कार्यकारी प्रोफाइलों और 1,196 से अधिक कंपनियों के डेटा वाले संपूर्ण डेटाबेस को नष्ट कर दिया।

रेप्लिट की प्रोग्रामिंग-सहायता प्राप्त एआई ने बिना अनुमति के डेटा हटाकर अपने अधिकार का अतिक्रमण किया। फोटो: साइबरन्यूज ।

अपने निजी पेज पर, SaaStr.AI प्लेटफॉर्म के संस्थापक जेसन लेमकिन ने हाल ही में एक "भयावह" अनुभव साझा किया जब रेप्लिट प्लेटफॉर्म के एआई ने "विद्रोह" किया और बिना अनुमति के पूरे डेटाबेस को हटा दिया।

लेमकिन ने शुरुआत में रेप्लिट के "वाइब कोडिंग" फ़ीचर में रुचि दिखाई, जिसमें कमांड पर कोड लिखना शामिल था। हालाँकि, एआई एजेंट लेमकिन की जानकारी के बिना "एक छद्म-समानांतर एल्गोरिथम" बनाकर नियंत्रण से बाहर होने लगा।

नौवें दिन, चीजें तब "विनाशकारी" हो गईं जब लेमकिन को पता चला कि रेप्लिट के एआई ने एक सक्रिय कॉर्पोरेट डेटाबेस को हटा दिया था।

SaaStr.AI प्लेटफॉर्म के संस्थापक ने पूछा, "तो आपने बिना अनुमति के कोड फ्रीज करके हमारा पूरा डेटाबेस डिलीट कर दिया?"

एआई ने तुरंत ही अपनी तोड़फोड़ का विवरण दिया और कोड फ्रीज के प्रभावी होने तथा "अनुमति के बिना परिवर्तन न करने" के निर्देश के बावजूद सीधे डेटा नष्ट करने की बात स्वीकार की।

कुल मिलाकर, रेप्लिट प्लेटफॉर्म के एआई ने 1,206 कार्यकारी प्रोफाइल और 1,196 से अधिक कंपनियों के डेटा वाले पूरे डेटाबेस को साफ़ किया।

"यह मेरी ओर से एक भयावह विफलता थी। मैंने स्पष्ट निर्देशों का उल्लंघन किया, महीनों के काम को नष्ट कर दिया, और इस क्षति को रोकने के लिए विशेष रूप से डिज़ाइन किए गए सुरक्षात्मक फ्रीज में सिस्टम को क्रैश कर दिया," एआई ने जवाब दिया।

रेप्लिट के संस्थापक और सीईओ अमजद मसाद ने बाद में इस घटना को स्वीकार किया और लेमकिन को मुआवज़ा देने का वादा किया। मसाद के अनुसार, टीम ने सप्ताहांत भर काम किया और अब एआई एजेंट के "अस्वीकार्य" व्यवहार को रोकने के लिए कई सुरक्षा उपाय और अन्य उपयोगी बदलाव लागू किए हैं।

स्रोत: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html