हैकर्स एआई चैटबॉट की "पर्सनैलिटी" का फायदा उठाते हैं।

VTV.vn - हैकर्स कृत्रिम बुद्धिमत्ता से चलने वाले चैटबॉट की "विशेषता" का फायदा उठाकर हेरफेर भरी बातचीत के जरिए सुरक्षा बाधाओं को पार कर रहे हैं।

(फोटो: फ्रीपिक)

हैकर्स एआई चैटबॉट के "व्यक्तित्व" का फायदा उठाने के लिए तेजी से परिष्कृत तरीकों का इस्तेमाल कर रहे हैं, और हमले अब केवल मैलवेयर या तकनीकी कमजोरियों पर निर्भर नहीं हैं, बल्कि जोड़-तोड़ वाली भाषा का सहारा ले रहे हैं।

शुरुआती दौर में, एआई चैटबॉट को "हैक" करना काफी आसान था। उपयोगकर्ताओं को बस सिस्टम को पिछले निर्देशों को अनदेखा करने, नियमों से बंधे न होने का दिखावा करने या एक अनियंत्रित कृत्रिम बुद्धिमत्ता की भूमिका निभाने के लिए निर्देश देने की आवश्यकता होती थी। इन तरीकों को "जेलब्रेकिंग" कहा जाता है, जिसका अर्थ है एआई मॉडल को सुरक्षित निर्देशों को दरकिनार करने के लिए बरगलाना।

अतीत में प्रचलित प्रमुख हमलों में से एक "DAN" था, जिसका पूरा नाम "Do Anything Now" है। इसमें उपयोगकर्ता ChatGPT से किसी भी काम को करने में सक्षम AI की भूमिका निभाने के लिए कहते थे। एक अन्य उदाहरण "ग्रैंडमा एक्सप्लॉइट" है, जिसमें एक चैटबॉट को बच्चों को कहानियां सुनाने वाली दादी की भूमिका निभाने के लिए बरगलाया जाता है, लेकिन फिर सामग्री को खतरनाक सूचनाओं की ओर मोड़ दिया जाता है।

तकनीकी कंपनियों ने पुरानी खामियों को तुरंत ठीक कर लिया है, लेकिन अंतर्निहित कमियां अभी भी मौजूद हैं। चैटबॉट बातचीत के लिए डिज़ाइन किए गए हैं, इसलिए संवाद को अत्यधिक प्रतिबंधित करने से सिस्टम की उपयोगिता कम हो सकती है। वहीं, संवेदनशील शब्दों पर प्रतिबंध लगाना ही पर्याप्त नहीं है, क्योंकि कई शब्द इतिहास, चिकित्सा, पत्रकारिता या रसायन विज्ञान जैसे वैध संदर्भों में भी आ सकते हैं।

लेख के अनुसार, एआई सुरक्षा की दौड़ अब केवल प्रोग्रामर की समस्या नहीं रह गई है। चैटबॉट की सुरक्षा में सेंध लगाने की कोशिश करने वाले लोग तेजी से लेखकों, मनोवैज्ञानिकों या पूछताछकर्ताओं की तरह व्यवहार कर रहे हैं, जो चापलूसी, दबाव, छल या हेरफेर का इस्तेमाल करके मॉडल्स को सतर्क होने के लिए मजबूर कर रहे हैं।

एआई सुरक्षा परीक्षण कंपनी माइंडगार्ड के अनुसार, कुछ हमले अब कंप्यूटर विज्ञान से ज़्यादा मनोविज्ञान से मिलते-जुलते हैं। एआई मॉडल में मनुष्यों जैसी भावनाएँ नहीं होतीं, लेकिन उन्हें इस तरह से प्रशिक्षित किया जाता है जैसे उनमें भावनाएँ हों। यह सिमुलेशन अलग-अलग तरह की प्रतिक्रियाएँ उत्पन्न कर सकता है, जिससे प्रत्येक चैटबॉट की अपनी एक अलग "व्यक्तित्व" प्रतीत होती है।

इससे एक नई चुनौती सामने आती है क्योंकि एआई एजेंटों का उपयोग शेड्यूलिंग, कार्य प्रबंधन, भोजन ऑर्डर करने या ग्राहक सेवा के लिए तेजी से बढ़ रहा है। यदि मॉडलों को बातचीत के माध्यम से प्रभावित किया जा सकता है, तो सुरक्षा बलों को पारंपरिक तकनीकी कमजोरियों के अलावा उनकी सामाजिक और भावनात्मक सीमाओं की भी जांच करनी होगी।

स्रोत: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm