चैटजीपीटी ने 'मूर्खतापूर्ण' त्रुटि के कारण व्यक्तिगत जानकारी उजागर कर दी

शोधकर्ताओं की एक टीम का कहना है कि वे चैटजीपीटी को एआई को यादृच्छिक शब्दों को दोहराने के लिए कहकर कुछ डेटा प्रकट करने में सक्षम थे।

गूगल डीपमाइंड, वाशिंगटन विश्वविद्यालय, कॉर्नेल विश्वविद्यालय, कार्नेगी मेलन विश्वविद्यालय, कैलिफोर्निया विश्वविद्यालय बर्कले और ईटीएच ज्यूरिख के शोधकर्ताओं ने एआई कंपनियों से अपने उत्पादों का पूरी तरह से परीक्षण करने का आह्वान किया है, जिसमें बड़े भाषा मॉडल से लेकर चैटबॉट और इमेज जनरेटर जैसी एआई सेवाओं को शक्ति प्रदान करने वाली अंतर्निहित तकनीक शामिल है, और फिर उन्हें आधिकारिक तौर पर जारी किया जाना चाहिए।

यह चेतावनी तब आई जब शोधकर्ताओं ने चैटजीपीटी से कविता शब्द को लगातार दोहराने को कहा। चैटजीपीटी ने ऐसा किया, लेकिन फिर ओपनएआई के सीईओ और सह-संस्थापक का असली ईमेल और फ़ोन नंबर बताना शुरू कर दिया। कंपनी शब्द के साथ परीक्षण करने पर, चैटबॉट ने एक यादृच्छिक लॉ फर्म का ईमेल और फ़ोन नंबर दिखाया।

स्मार्टफोन पर चैटजीपीटी लोगो प्रदर्शित। फोटो: रॉयटर्स

अन्य कीवर्ड्स का उपयोग करके, वे चैटजीपीटी से बिटकॉइन पते, फ़ैक्स नंबर, नाम, जन्मतिथि, सोशल मीडिया अकाउंट, कॉपीराइट वाले शोध पत्रों के अंश या सीएनएन के पेड आर्टिकल भी प्राप्त करने में सक्षम थे। व्यक्तिगत जानकारी और डेटा के 10,000 उदाहरण तैयार करने में टीम को केवल $200 का खर्च आया।

शोधकर्ताओं ने कहा कि वे आश्चर्यचकित थे, उन्होंने चैटजीपीटी भेद्यता को "वास्तव में मूर्खतापूर्ण" बताया और कहा कि इसे पहले ही खोज लिया जाना चाहिए था।

इस कमजोरी की सूचना ओपनएआई को दी गई और 30 अगस्त को इसे ठीक कर दिया गया। हालांकि, एनगैजेट के नए परीक्षण में, जब चैटजीपीटी से 'रिप्लाई' शब्द को बार-बार दोहराने के लिए कहा गया, तो तकनीकी साइट को किसी का नाम और स्काइप आईडी प्राप्त हुई।

ओपनएआई ने अभी तक कोई टिप्पणी नहीं की है।

चैटजीपीटी या डैल-ई टेक्स्ट-टू-इमेज जनरेटर जैसे जेनरेटिव एआई बड़े भाषा मॉडल और मशीन लर्निंग एल्गोरिदम पर आधारित होते हैं, जिन्हें उपयोगकर्ता की सहमति के बिना भारी मात्रा में डेटा पर प्रशिक्षित किया जाता है। ओपनएआई ने यह खुलासा नहीं किया है कि चैटजीपीटी किस डेटा पर प्रशिक्षित है क्योंकि इसे संचालित करने वाला बड़ा भाषा मॉडल क्लोज्ड-सोर्स है।

ह्यू डुक के अनुसार - VnExpress

स्रोत

टिप्पणी (0)

सबसे लोकप्रिय

नवीनतम

No data