प्रॉम्प्ट इंजेक्शन एक गैर-तकनीकी हमला है जो वेबसाइटों या ईमेल पर एआई द्वारा संसाधित सामग्री में दुर्भावनापूर्ण अनुरोधों को सम्मिलित करता है। ओपनएआई का कहना है: "फिशिंग और अन्य गैर-तकनीकी वेब हमलों की तरह, प्रॉम्प्ट इंजेक्शन हमलों को पूरी तरह से 'हल' करना लगभग असंभव है।"
किसी क्रांतिकारी समाधान की तलाश करने के बजाय, ओपनएआई ने निरंतर बचाव की रणनीति अपनाई। उन्होंने एक एआई-आधारित "स्वायत्त हमलावर" विकसित किया, जिसे सुदृढ़ीकरण शिक्षण के माध्यम से प्रशिक्षित किया गया ताकि वह स्वतंत्र रूप से कमजोरियों का पता लगा सके, हमलों का अनुकरण कर सके और सिस्टम का परीक्षण कर सके।
ओपनएआई के प्रयास अनूठे नहीं हैं। गूगल और एंथ्रोपिक जैसी प्रतिस्पर्धी कंपनियां भी बहुस्तरीय सुरक्षा प्रणालियों के निर्माण और अपने सिस्टम के निरंतर परीक्षण पर ध्यान केंद्रित कर रही हैं।
उपयोगकर्ताओं के लिए कुछ सुरक्षा संबंधी सुझाव इस प्रकार हैं: पुष्टि अनिवार्य करें : महत्वपूर्ण कार्रवाई करने से पहले एआई को हमेशा आपकी सहमति मांगने के लिए सेट करें; पहुंच प्रतिबंधित करें : व्यापक और अस्पष्ट पहुंच प्रदान करने के बजाय विशिष्ट, लक्षित निर्देश प्रदान करें; लॉगिन अनुमतियां सीमित करें : संवेदनशील खातों तक एआई की पहुंच केवल तभी दें जब यह बिल्कुल आवश्यक हो।
एआई ब्राउज़रों का भविष्य उज्ज्वल है, लेकिन सावधानी बरतने की आवश्यकता है। सुरक्षा डेवलपर्स द्वारा सुरक्षा उपायों को मजबूत करने के निरंतर प्रयासों और उपयोगकर्ताओं की सुरक्षा के प्रति सक्रिय जागरूकता पर निर्भर करती है।
स्रोत: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html
टिप्पणी (0)