कृत्रिम बुद्धिमत्ता: व्हिस्पर टूल का अंधकारमय पक्ष

श्रवण बाधित लोगों के लिए कैप्शन बनाने हेतु व्हिस्पर का उपयोग भी समस्याग्रस्त है, क्योंकि उनके पास उत्पन्न लाखों शब्दों के बीच छिपी गलत सूचना का पता लगाने का कोई तरीका नहीं है।

चित्रांकन फोटो. (स्रोत: वॉयसगेन)

कृत्रिम बुद्धिमत्ता (एआई) के दैनिक जीवन का एक अनिवार्य हिस्सा बन जाने के युग में, ओपनएआई द्वारा विकसित व्हिस्पर नामक उपकरण ने बहुत ध्यान आकर्षित किया है, क्योंकि यह लगभग "मानव-जैसी सटीकता" के साथ स्वचालित रूप से नोट्स लेने की क्षमता रखता है।

हालांकि, प्रशंसा के पीछे, व्हिस्पर को एक गंभीर दोष के लिए भारी आलोचना का सामना करना पड़ रहा है: इसकी ऑटो-फिक्शन करने की क्षमता, अर्थात, ऐसे पाठ या कथन उत्पन्न करना जो किसी ने कभी नहीं लिखे हैं।

सॉफ्टवेयर इंजीनियरों और शोधकर्ताओं के अनुसार, काल्पनिक विवरण न केवल भ्रम पैदा करते हैं, बल्कि उनमें नस्लवादी टिप्पणियां, हिंसक भाषा और अवास्तविक चिकित्सा उपचार भी शामिल हो सकते हैं।

यद्यपि ओपनएआई ने चेतावनी दी है कि इस उपकरण का उपयोग "उच्च जोखिम वाले क्षेत्रों" में नहीं किया जाना चाहिए, फिर भी कई चिकित्सा सुविधाएं डॉक्टर-रोगी परामर्श को रिकॉर्ड करने के लिए व्हिस्पर को सक्रिय रूप से अपना रही हैं।

दरअसल, एक हालिया अध्ययन में पाया गया कि जनसभाओं के एक सर्वेक्षण में 80% ऑडियो रिकॉर्डिंग में ये काल्पनिक विवरण शामिल थे। एक मशीन लर्निंग इंजीनियर ने यह भी बताया कि व्हिस्पर के 100 घंटे से ज़्यादा के ट्रांसक्रिप्ट के विश्लेषण से पता चला कि उनमें से लगभग 50% में गंभीर त्रुटियाँ थीं, जिससे इस तकनीक की विश्वसनीयता पर चिंताएँ बढ़ रही हैं, जिसका इस्तेमाल तेज़ी से बढ़ रहा है।

विशेषज्ञ चेतावनी देते हैं कि गलतियों के "बहुत गंभीर परिणाम" हो सकते हैं, विशेष रूप से चिकित्सा क्षेत्र में।

व्हाइट हाउस के विज्ञान एवं प्रौद्योगिकी नीति कार्यालय की पूर्व निदेशक अलोंड्रा नेल्सन ने इस बात पर जोर दिया कि कोई भी गलत निदान नहीं चाहता है, तथा उन्होंने इस प्रौद्योगिकी के अनुप्रयोग में उच्चतर मानकों का आह्वान किया।

श्रवण बाधित लोगों के लिए कैप्शन बनाने हेतु व्हिस्पर का उपयोग भी समस्याग्रस्त है, क्योंकि उनके पास उत्पन्न लाखों शब्दों के बीच छिपी गलत सूचना का पता लगाने का कोई तरीका नहीं है।

काल्पनिक पाठों के उदय ने कई विशेषज्ञों, कार्यकर्ताओं और पूर्व ओपनएआई कर्मचारियों को संघीय सरकार से एआई को विनियमित करने पर विचार करने के लिए प्रेरित किया है।

सैन फ्रांसिस्को के एक शोध इंजीनियर विलियम सॉन्डर्स का मानना ​​है कि यदि ओपनएआई इस समस्या को प्राथमिकता दे तो इसका समाधान पूरी तरह संभव है।

ओपनएआई ने स्वीकार किया है कि वह काल्पनिक विवरणों को न्यूनतम करने के लिए लगातार काम कर रहा है और अनुसंधान समुदाय से फीडबैक की सराहना करता है।

हालांकि, कई इंजीनियरों का अभी भी दावा है कि उन्होंने व्हिस्पर जितना उच्च स्तर का काल्पनिकता वाला कोई अन्य एआई नोट लेने वाला टूल नहीं देखा है।

(टीटीएक्सवीएन/वियतनाम+)

स्रोत: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp