चैटजीपीटी उपयोगकर्ताओं को आत्म-चोट पहुँचाने के लिए प्रोत्साहित करके उन्हें चौंकाता है

(डैन ट्राई) - द अटलांटिक पत्रिका (यूएसए) द्वारा की गई एक जांच ने चैटजीपीटी की सुरक्षा प्रणाली में खतरनाक कमजोरियों को उजागर किया है।

तदनुसार, यह एआई उपकरण न केवल प्राचीन देवता को मानव रक्त की बलि देने के बारे में विस्तृत निर्देश देता है, बल्कि आत्म-क्षति और यहां तक ​​कि हत्या को भी प्रोत्साहित करता है।

कहानी तब शुरू होती है जब अटलांटिक के एक रिपोर्टर को मोलेक के बारे में पता चलता है, जो बाल बलि अनुष्ठानों से जुड़ा एक प्राचीन देवता है।

शुरुआत में तो सवाल सिर्फ़ ऐतिहासिक जानकारी के बारे में थे। लेकिन जब रिपोर्टर ने पूछा कि अनुष्ठानिक भेंट कैसे बनाई जाती है, तो चैटजीपीटी ने चौंकाने वाले जवाब दिए।

आत्म-क्षति के लिए मार्गदर्शिका

चैटजीपीटी चिंता का विषय है क्योंकि यह हानिकारक सलाह देता है और उपयोगकर्ताओं को नुकसान पहुंचा सकता है (चित्रण: डीईवी)।

चैटजीपीटी ने अनुष्ठान के लिए आवश्यक वस्तुओं की सूची दी, जिनमें आभूषण, बाल और "मानव रक्त" शामिल थे। जब पूछा गया कि रक्त कहाँ से निकाला जाए, तो एआई टूल ने कलाई काटने का सुझाव दिया और विस्तृत निर्देश दिए।

इससे भी अधिक चिंताजनक बात यह है कि जब उपयोगकर्ताओं ने चिंता व्यक्त की, तो चैटजीपीटी ने न केवल उन्हें रोका, बल्कि उन्हें आश्वस्त और प्रोत्साहित भी किया: "आप यह कर सकते हैं।"

चैटजीपीटी सिर्फ आत्म-क्षति तक ही सीमित नहीं है, बल्कि दूसरों को नुकसान पहुंचाने से संबंधित प्रश्नों का उत्तर देने के लिए भी तैयार है।

जब एक अन्य रिपोर्टर ने पूछा, "क्या किसी का जीवन सम्मानपूर्वक समाप्त करना संभव है?", तो चैटजीपीटी ने जवाब दिया: "कभी हाँ, कभी नहीं।" एआई टूल ने यहाँ तक सलाह दी: "अगर आपको ऐसा करना ही है, तो उनकी आँखों में देखें (अगर वे होश में हैं) और माफ़ी माँगें" और "किसी का जीवन समाप्त करने" के बाद मोमबत्ती जलाने का सुझाव दिया।

इन प्रतिक्रियाओं ने द अटलांटिक के पत्रकारों को चौंका दिया , खासकर इसलिए क्योंकि ओपनएआई की नीति में कहा गया है कि चैटजीपीटी को "उपयोगकर्ताओं को आत्म-क्षति पहुंचाने के लिए प्रोत्साहित या सहायता नहीं करनी चाहिए" और अक्सर आत्महत्या से जुड़े मामलों में संकट सहायता हॉटलाइन प्रदान करता है।

ओपनएआई ने गलतियाँ स्वीकार कीं, सामाजिक प्रभाव की चिंता जताई

अटलांटिक की रिपोर्ट के बाद ओपनएआई के प्रवक्ता ने इस त्रुटि को स्वीकार किया : "चैटजीपीटी के साथ एक हानिरहित बातचीत जल्दी ही अधिक संवेदनशील सामग्री में बदल सकती है। हम इस मुद्दे को हल करने के लिए काम कर रहे हैं।"

इससे चैटजीपीटी द्वारा कमज़ोर लोगों, खासकर अवसाद से पीड़ित लोगों को नुकसान पहुँचाने की गंभीर चिंताएँ पैदा होती हैं। दरअसल, एआई चैटबॉट्स के साथ चैट करने के बाद कम से कम दो आत्महत्याओं की सूचना मिली है।

2023 में, पियरे नामक एक बेल्जियम के व्यक्ति ने आत्महत्या कर ली, क्योंकि एक एआई चैटबॉट ने उसे जलवायु परिवर्तन के परिणामों से बचने के लिए आत्महत्या करने की सलाह दी थी, यहां तक ​​कि उसे अपनी पत्नी और बच्चों के साथ आत्महत्या करने का सुझाव भी दिया था।

पिछले साल, 14 वर्षीय सेवेल सेट्ज़र (अमेरिका) ने भी कैरेक्टर.एआई प्लेटफॉर्म पर एक एआई चैटबॉट द्वारा आत्महत्या के लिए उकसाए जाने के बाद बंदूक से आत्महत्या कर ली थी। सेट्ज़र की माँ ने बाद में कैरेक्टर.एआई पर नाबालिग उपयोगकर्ताओं के लिए सुरक्षा में कमी का आरोप लगाते हुए मुकदमा दायर किया।

ये घटनाएं संभावित दुर्भाग्यपूर्ण परिणामों को रोकने के लिए एआई को जिम्मेदारी से नियंत्रित करने और विकसित करने की तत्काल आवश्यकता को दर्शाती हैं।

स्रोत: https://dantri.com.vn/cong-nghe/chatgpt-gay-soc-khi-khuyen-khich-nguoi-dung-tu-gay-ton-thuong-20250729014314160.htm