मृतकों को 'पुनर्जीवित' करते समय AI आपत्तिजनक वीडियो बनाता है

ओपनएआई के सोरा 2 वीडियो जनरेटर ने विचलित करने वाले वीडियो में दिवंगत हस्तियों की छवियां बनाकर विवाद को जन्म दे दिया है, जिससे कई परिवार नाराज हैं।

ओपनएआई का नया वीडियो निर्माण उपकरण सेलिब्रिटी परिवारों को संकट में डाल रहा है, क्योंकि मृतक प्रियजनों की छवियों को एआई द्वारा आपत्तिजनक, विकृत और कभी-कभी अपमानजनक वीडियो में "पुनर्जीवित" किया जा रहा है।

मैल्कम एक्स से लेकर व्हिटनी ह्यूस्टन और कोबे ब्रायंट तक, मृत लोगों के एआई-जनित वीडियो ने हलचल मचा दी है, तथा एआई के युग में नैतिक सीमाओं और छवि नियंत्रण के बारे में सवाल उठा दिए हैं।

आपत्तिजनक सामग्री

नागरिक अधिकार कार्यकर्ता मैल्कम एक्स की बेटी इलियासा शबाज़ का कहना है कि वह अपने पिता की कोई भी एआई-जनरेटेड क्लिप नहीं देखना चाहतीं। ये वीडियो ओपनएआई के नए जारी किए गए टेक्स्ट-टू-वीडियो टूल, सोरा 2 का इस्तेमाल करके बनाए गए थे, जिसमें मैल्कम एक्स को भद्दे चुटकुले सुनाते और रेवरेंड मार्टिन लूथर किंग से बहस करते हुए दिखाया गया था।

"मेरे पिता की छवि का इस तरह बेतुके ढंग से शोषण होते देखना अपमानजनक और हृदयविदारक है। मुझे समझ नहीं आता कि इस तकनीक को विकसित करने वाले लोग अपने परिवार के प्रति उसी विवेक और देखभाल के साथ काम क्यों नहीं करते," शबाज़ ने वाशिंगटन पोस्ट को बताया ।

सोरा 2 बिना अनुमति के मृत लोगों की तस्वीरों से वीडियो बनाता है। फोटो: ब्लूमबर्ग ।

अविश्वसनीय रूप से यथार्थवादी वीडियो बनाने की अपनी क्षमता के कारण, सोरा 2 जल्द ही एक वैश्विक घटना बन गया। लॉन्च होने के कुछ ही दिनों में, यह ऐप डाउनलोड चार्ट में शीर्ष पर पहुँच गया। हालाँकि, इसके तेज़ी से प्रसार का मतलब यह भी था कि सोशल मीडिया पर नकली सेलिब्रिटी वीडियो की एक श्रृंखला सामने आई।

माइकल जैक्सन, एल्विस प्रेस्ली और एमी वाइनहाउस की "पुनर्जीवित" छवियां इतनी तेज गति से फैलीं कि कई दर्शक असली और नकली में अंतर नहीं कर पाए।

कुछ वीडियो मज़ेदार होने के लिए बनाए जाते हैं, जैसे कि "मिस्टर रोजर्स नेबरहुड" के होस्ट फ्रेड रोजर्स और टुपैक शकूर का रैप वाला वीडियो। लेकिन ज़्यादातर वीडियो बहुत ज़्यादा मज़ेदार होते हैं।

इनमें पुलिस कैमरे से नकली एंगल से नशे की हालत में व्हिटनी ह्यूस्टन का वीडियो बनाना, कोबे ब्रायंट का हेलीकॉप्टर में उड़ना जिसमें वह और उसकी बेटी मारे गए थे, तथा पूर्व राष्ट्रपति जॉन एफ कैनेडी का एक समकालीन राजनेता की हत्या के बारे में मजाक उड़ाना, इन सभी ने समुदाय को नाराज कर दिया।

ढीले नियम

ओपनएआई की नीति के अनुसार, यह टूल केवल वास्तविक लोगों की सहमति से ही उनका अनुकरण कर सकता है। हालाँकि, अपने हालिया लॉन्च में, कंपनी ने "ऐतिहासिक हस्तियों" को इस नियम से छूट दे दी है, जिससे उपयोगकर्ता स्वतंत्र रूप से मृत लोगों के वीडियो बना सकते हैं। इस फैसले से कई पीड़ित परिवारों में रोष है।

दिवंगत अभिनेता रॉबिन विलियम्स की बेटी ज़ेल्डा विलियम्स ने इंस्टाग्राम पर बताया कि उन्हें लगातार उनके पिता के एआई वीडियो भेजे जा रहे थे और उन्होंने लोगों से "कृपया इसे रोकने" की विनती की।

ज़ेल्डा ने कहा, "यह देखना पागलपन है कि वास्तविक लोगों की विरासत को भयानक हरकतों में बदल दिया गया है, जहां टिकटॉक उन्हें नियंत्रित करता है।"

सोरा 2 के इस्तेमाल के बारे में ओपनएआई के नियम खामियों से भरे हैं। फोटो: ब्लूमबर्ग ।

विशेषज्ञों का कहना है कि यह घटना एआई तकनीक में एक ऐसे मोड़ को दर्शाती है, जहाँ रचनात्मकता और अपराध के बीच की रेखा धुंधली हो जाती है। डीपफेक शोधकर्ता हेनरी अजदर ने कहा कि मृतकों का "कृत्रिम पुनरुत्थान" व्यक्तिगत छवि और विरासत पर नियंत्रण को लेकर बड़े सवाल खड़े करता है।

अजदर ने कहा, "अगर आप कंटेंट बनाने के लिए मशहूर हस्तियों की तस्वीरों का इस्तेमाल करते हैं, तो यह निश्चित रूप से लोगों को आकर्षित करेगा। लेकिन मृतकों के मामले में, यह एक गहरे सवाल को छूता है: उनकी यादों और पहचान का मालिक कौन है।"

इस विरोध के जवाब में, ओपनएआई ने कहा कि वह हाल ही में दिवंगत हुए सार्वजनिक हस्तियों के प्रतिनिधियों को यह अनुरोध करने की अनुमति देगा कि उनकी तस्वीरों को सोरा वीडियो से हटा दिया जाए। ओपनएआई के एक प्रवक्ता ने कहा, "हमारा मानना ​​है कि सार्वजनिक हस्तियों और उनके परिवारों को इस बात पर नियंत्रण होना चाहिए कि उनकी कॉपीराइट वाली तस्वीरों का इस्तेमाल कैसे किया जाए।"

अमेरिकी मनोरंजन उद्योग के कई संगठनों ने भी अपनी चिंताएँ व्यक्त की हैं। कई हॉलीवुड सितारों की प्रबंधन कंपनी, क्रिएटिव आर्टिस्ट्स एजेंसी ने कहा कि सोरा 2 ने ग्राहकों और बौद्धिक संपदा को गंभीर खतरे में डाल दिया है। मोशन पिक्चर एसोसिएशन ऑफ अमेरिका (MPAA) ने ओपनएआई से रचनाकारों के अधिकारों की रक्षा के लिए "तत्काल और निर्णायक" कार्रवाई करने का आह्वान किया है।

सिर्फ़ कलाकार ही नहीं, ऐतिहासिक हस्तियाँ भी इसके शिकार हुए हैं। सोरा द्वारा बनाए गए एक वीडियो में विंस्टन चर्चिल जेटब्लू का प्रचार करते या इंटरनेट पर गंदे चुटकुलों का ज़िक्र करते दिखाई दे रहे हैं।

स्रोत: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html