डीपफेक बड़े पैमाने पर हैं - एआई प्रतिरूपण चालों से कोई भी सुरक्षित नहीं है

आवाज़ की नकल, चेहरे की नकल, लिप-सिंकिंग... एआई अब सिर्फ़ काम और मनोरंजन के लिए ही नहीं, बल्कि एक खतरनाक व्यावसायिक धोखाधड़ी का ज़रिया बनता जा रहा है। मशहूर हस्तियों, डॉक्टरों और यहाँ तक कि साधुओं की तस्वीरों का इस्तेमाल करके सोशल नेटवर्क पर उत्पाद बेचे जा रहे हैं। असली लोगों को पता नहीं चलता, और खरीदार भरोसा खो देते हैं।

सामान बेचने के लिए "उधार का चेहरा" होना

"घुटने की मूल स्थिति चाहे जो भी हो, बस हमारी विधि लागू करें, हम गारंटी देते हैं कि 7 दिनों के भीतर इसमें काफी सुधार होगा, अगर यह पूरी तरह से अप्रभावी है, तो मैं ईमानदारी से माफी के रूप में 1 बिलियन वीएनडी का मुआवजा देने को तैयार हूं। यदि आपको वास्तव में कोई प्रभाव नहीं दिखता है, तो हम 100% धन वापसी के लिए प्रतिबद्ध हैं और मैं खुद 1 बिलियन वीएनडी का मुआवजा देने को तैयार हूं, हर कोई ऐसा करने की हिम्मत नहीं करता है", यह एक प्रसिद्ध महिला गायिका का जोड़ों के दर्द से राहत देने वाली मालिश क्रीम उत्पाद का विज्ञापन है, लेकिन यह ध्यान देने योग्य है कि यह विज्ञापन पूरी तरह से एआई द्वारा बनाया गया था।

उपरोक्त विज्ञापन क्लिप LShop नामक एक TikTok अकाउंट द्वारा इस्तेमाल की गई थी, जिसमें गायिका की छवि, आवाज़ और हाव-भाव का वास्तविक रूप से उपयोग किया गया था, जिसे बिना ध्यान से देखे पहचाना नहीं जा सकता। इस अकाउंट के लगभग 9,000 फ़ॉलोअर्स, 67,000 लाइक्स और प्रत्येक क्लिप को हज़ारों बार देखा गया है। गायिका की छवि वाले इस "विज्ञापन" वीडियो को अकेले ही 1,000 से ज़्यादा लाइक्स और लगभग 100 टिप्पणियाँ मिल चुकी हैं।

उसी मसाज क्रीम उत्पाद के साथ, बिक्री चैनलों ने एक और डीपफेक संस्करण भी "निर्मित" किया, इस बार एक डॉक्टर का। क्लिप में, चरित्र ने दृढ़ता से वादा किया: "मैं हनोई का सबसे प्रतिष्ठित ऑर्थोपेडिक डॉक्टर हूँ और मैं गारंटी देता हूँ कि सबसे गंभीर मेनिस्कस टियर भी केवल 3 दिनों में पूरी तरह से ठीक हो सकता है। इस जेल को वियतनाम के सबसे प्रतिष्ठित ऑर्थोपेडिक एसोसिएशन द्वारा प्रमाणित किया गया है"। इस लाइन को AI द्वारा अन्य "डॉक्टरों" की एक श्रृंखला के लिए फिर से बनाया गया था, जिससे दर्शकों के लिए इसे असली समझने की गलती करना आसान हो गया।

इस क्लिप को लगभग 4,000 लाइक और 120 से ज़्यादा कमेंट मिले, लेकिन जब हमने इसे खरीदने के लिए टेक्स्ट किया, तो अकाउंट ने कोई जवाब नहीं दिया, न ही कमेंट सेक्शन में दर्शकों से कोई बातचीत की, बस सीधे खरीदारी के लिए उत्पाद को कार्ट में छोड़ दिया। गौर करने वाली बात यह है कि बिक्री के लिए यह उत्पाद चीन से आया है और उत्पाद की जानकारी बहुत अस्पष्ट है।

गायकों, मशहूर हस्तियों से लेकर डॉक्टरों तक, सभी को बिक्री चैनलों द्वारा प्रतिरूपित किया गया है जो स्वास्थ्य संबंधी उत्पादों को बेचने के लिए एआई क्लिप बनाते हैं।

डीपफेक का यह हथकंडा यहीं नहीं रुका, बल्कि आध्यात्मिक मामलों में भी फैल गया है। Phat Phap NM नाम का एक TikTok अकाउंट न केवल मास्टर TPH के व्याख्यानों को रीपोस्ट करता है, बल्कि AI तकनीक का इस्तेमाल करके "मास्टर" की तस्वीरें भी बनाता है, जिनमें वे बोधि पत्ते और अगरवुड ब्रेसलेट जैसे उत्पाद बेचते दिखाई देते हैं।

जब दर्शकों ने खरीदारी के लिए टिप्पणियाँ छोड़ीं, तो चैनल ने जवाब दिया: "अगर चीज़ें योजना के अनुसार नहीं होती हैं, तो मेरे अकाउंट के डिस्प्ले सेक्शन में जाएँ और अपनी ज़रूरत की चीज़ें चुनें, छोटे बदलाव में कंजूसी न करें और बड़े बदलाव को नज़रअंदाज़ न करें।" इसके तुरंत बाद, इस साधु को खुद ही सफाई देनी पड़ी कि उन्होंने कभी ऐसे उत्पादों का विज्ञापन नहीं किया है और न ही उनसे जुड़े रहे हैं।

रचनात्मकता और उल्लंघन के बीच की रेखा

राष्ट्रीय साइबर सुरक्षा निगरानी केंद्र (एनसीएससी) के साइबर सुरक्षा विशेषज्ञ न्गो मिन्ह हियू (हियू पीसी) ने बताया कि सोशल नेटवर्क पर फैल रहे नकली विज्ञापन क्लिप मुख्य रूप से डीपफेक सॉफ्टवेयर से बनाए जाते हैं। यह सॉफ्टवेयर दुर्लभ नहीं है, और कई सेवाएँ कम लागत और बेहद सरल संचालन वाले पैकेज भी प्रदान करती हैं। हालाँकि डिजिटल सामग्री निर्माण और मीडिया उत्पादन के क्षेत्र में इसके सकारात्मक अनुप्रयोग हैं, लेकिन श्री हियू के अनुसार, समस्या यह है कि कुछ लोगों ने इस तकनीक का इस्तेमाल धोखाधड़ी, पहचान की जालसाजी, फर्जी खबरें फैलाने या असली दिखने वाले वीडियो के ज़रिए दूसरों को बदनाम करने जैसे नकारात्मक उद्देश्यों के लिए किया है।

श्री हियू ने डीपफेक क्लिप की पहचान करने में मदद के लिए कुछ संकेत भी दिए, जैसे कि वीडियो में चेहरे के भाव कुछ कठोर होना, मुंह का आकार और चाल-ढाल संवाद से मेल नहीं खाना... श्री हियू ने चेतावनी दी कि ऐसी और भी गंभीर स्थितियाँ रही हैं, जब डराने-धमकाने, दबाव बनाने और मुनाफाखोरी के उद्देश्य से पीड़ितों के चेहरे को संवेदनशील वीडियो में डालने के लिए एआई का इस्तेमाल किया गया।

हो ची मिन्ह सिटी बार एसोसिएशन के वकील ट्रान डुक फुओंग के अनुसार, मशहूर हस्तियों (या विशिष्ट व्यक्तियों) की सहमति के बिना उनकी छवियाँ बनाने के लिए एआई का उपयोग करना व्यक्तिगत अधिकारों का उल्लंघन है, विशेष रूप से छवि के अधिकार का, जैसा कि 2015 के नागरिक संहिता के अनुच्छेद 32 में निर्धारित है। कानून में कहा गया है: "व्यक्तियों को अपनी छवि रखने का अधिकार है। किसी व्यक्ति की छवि के उपयोग के लिए उस व्यक्ति की सहमति आवश्यक है। व्यावसायिक उद्देश्यों के लिए किसी छवि के उपयोग के लिए उस व्यक्ति को पारिश्रमिक देना होगा जिसकी छवि का उपयोग किया गया है, जब तक कि पक्षों के बीच कोई अन्य समझौता न हो।"

इस प्रकार, यदि कोई सोशल नेटवर्क अकाउंट स्वामी बिना अनुमति के विज्ञापन या बिक्री के लिए वास्तविक फ़ोटो, पुराने वीडियो आदि से कृत्रिम बुद्धिमत्ता द्वारा पुनः निर्मित छवियों का उपयोग करता है, तो उसने कानून का उल्लंघन किया है। यदि किसी छवि का उपयोग इस अनुच्छेद के प्रावधानों का उल्लंघन करता है, तो छवि रखने वाले व्यक्ति को न्यायालय से अनुरोध करने का अधिकार है कि वह उल्लंघनकर्ता, संबंधित एजेंसियों, संगठनों और व्यक्तियों को छवि को वापस लेने, नष्ट करने और उसका उपयोग बंद करने, क्षतिपूर्ति करने और कानून के प्रावधानों के अनुसार अन्य उपाय लागू करने के लिए बाध्य करने वाला निर्णय जारी करे।

कैम नुओंग

स्रोत: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html