कृत्रिम बुद्धिमत्ता उत्पादों की पारदर्शिता

आजकल कई कृत्रिम बुद्धिमत्ता (एआई) उत्पाद तकनीकी हस्तक्षेप के स्तर का खुलासा नहीं करते हैं, जिससे उपयोगकर्ताओं के लिए असली और नकली में अंतर करना मुश्किल हो जाता है। इस स्थिति को देखते हुए, एआई उत्पादों पर पारदर्शिता और लेबलिंग की बाध्यता को स्पष्ट रूप से परिभाषित करना एक अत्यावश्यक आवश्यकता बन गई है।

विभिन्न क्षेत्रों में एआई अनुप्रयोगों पर एफपीटी की प्रदर्शनी बूथ।

आज, दृश्य, श्रव्य, पाठ्य सामग्री बनाने से लेकर स्वचालित निर्णय समर्थन तक, कई एआई उत्पादों को लेबल रहित कर दिया जाता है और उन्हें सामान्य सामग्री के रूप में साझा किया जाता है। इसका परिणाम यह होता है कि उपयोगकर्ताओं को यह पता ही नहीं चलता कि वे मानव-जनित या एआई-जनित सामग्री के साथ इंटरैक्ट कर रहे हैं और वे गलत सूचना या हेरफेर पर विश्वास कर सकते हैं।

उदाहरण के लिए, एक ब्यूटी सैलून एक मॉडल की तस्वीर के साथ एआई-जनरेटेड विज्ञापन पोस्ट करता है, जिससे ग्राहक गलती से उसे असली मान लेते हैं, लेकिन जब वे सेवा का अनुभव करते हैं, तो उन्हें पता चलता है कि गुणवत्ता वैसी नहीं है जैसा विज्ञापित किया गया है। इससे भी ज़्यादा खतरनाक यह है कि एआई मशहूर लोगों की नकली तस्वीरें, राजनेताओं के बयानों की नकल करने वाले वीडियो , या एआई द्वारा बनाए गए लेख लेकिन असली लोगों के नाम के साथ बनाता है, जिससे व्यक्तिगत सम्मान और एजेंसियों व संगठनों की प्रतिष्ठा को ठेस पहुँचती है।

इसके अलावा, लेबलिंग तंत्र की कमी डिजिटल प्लेटफ़ॉर्म और एआई उत्पादों में उपयोगकर्ताओं के विश्वास को कम करती है। एक ऐसा डिजिटल वातावरण जो सामग्री की उत्पत्ति के बारे में पारदर्शी नहीं है, उपयोगकर्ताओं को संदिग्ध और दूर कर देगा। वहीं, अधिकांश वियतनामी उपयोगकर्ताओं को सामग्री की उत्पत्ति की पहचान करने और सत्यापित करने की आदत नहीं है, और एआई उत्पादों का पता लगाने के लिए तकनीकी उपकरण सीमित हैं।

पारदर्शिता और लेबलिंग संबंधी दायित्वों को स्पष्ट रूप से परिभाषित करना न केवल एक तकनीकी नैतिक आवश्यकता है, बल्कि एआई उत्पादों के उपयोगकर्ताओं और डेवलपर्स, दोनों की सुरक्षा का एक कानूनी आधार भी है। इस आवश्यकता को पूरा करने के लिए, विज्ञान एवं प्रौद्योगिकी मंत्रालय आर्टिफिशियल इंटेलिजेंस पर कानून विकसित कर रहा है, जिसके अनुच्छेद 12 में "पारदर्शिता, लेबलिंग और जवाबदेही" का प्रावधान है।

तदनुसार, लेबलिंग तकनीकी उपायों का अनुप्रयोग है जो स्पष्ट रूप से, आसानी से पहचाने जाने योग्य और मशीन-पठनीय रूप से सूचित करता है कि सामग्री (पाठ, छवि, ऑडियो, वीडियो) का निर्माण या महत्वपूर्ण संशोधन AI प्रणालियों द्वारा किया गया है। यह सूचना तब दी जानी चाहिए जब सामग्री व्यापक रूप से प्रकाशित हो।

यह विनियमन एआई द्वारा निर्मित या संपादित उत्पादों के लिए अनिवार्य लेबलिंग दायित्वों को स्थापित करता है, जिसका उद्देश्य डिजिटल स्पेस को पारदर्शी बनाना, उपभोक्ताओं की सुरक्षा करना, तथा लेबलिंग में विफलता के कारण भ्रम या क्षति होने पर आपूर्तिकर्ताओं और परिनियोजनकर्ताओं को संयुक्त रूप से जिम्मेदार बनाना है।

वास्तविक लोगों, वस्तुओं, स्थानों या घटनाओं का अनुकरण करने वाली सामग्री के लिए, मसौदा कानून यह निर्धारित करता है कि प्रदाताओं को यह स्पष्ट रूप से पहचानने के लिए उपाय करने होंगे कि सामग्री एआई द्वारा बनाई गई है और इसकी उत्पत्ति को प्रमाणित और पता लगाने की क्षमता सुनिश्चित करनी होगी। इसे एआई तकनीक के प्रबंधन में एक महत्वपूर्ण कदम माना जा रहा है, जो अंतरराष्ट्रीय रुझानों के अनुरूप है, जब यूरोपीय संघ (ईयू), संयुक्त राज्य अमेरिका, जापान और दक्षिण कोरिया सभी ने इसी तरह के नियम जारी किए हैं।

इस आवश्यकता पर सहमति के बावजूद, कई विशेषज्ञों और व्यवसायों का मानना ​​है कि मसौदा कानून में लेबलिंग नियमों को और अधिक विशिष्ट बनाने की आवश्यकता है। वियतनाम कमर्शियल लीगल लिमिटेड लायबिलिटी लॉ फर्म (लेक्सकॉम वियतनाम एलएलसी) के वकील होआंग ले क्वान का मानना ​​है कि यह स्पष्ट करना आवश्यक है कि क्या एआई प्रदाता स्वयं लेबलिंग का स्वरूप तय कर सकते हैं या उन्हें सरकार के निर्देशों का पालन करना होगा।

यदि दिशानिर्देश हैं, तो उन्हें स्पष्ट होना चाहिए और अंतर्राष्ट्रीय मानकों के साथ सामंजस्य सुनिश्चित करना चाहिए, जिससे वियतनाम की आवश्यकताएं पूरी तरह से भिन्न न हों या नए दायित्व न पैदा हों, विशेष रूप से बहुराष्ट्रीय आपूर्तिकर्ताओं के लिए, जिससे यूरोपीय संघ (ईयू), दक्षिण कोरिया या संयुक्त राज्य अमेरिका जैसे अन्य बाजारों की तुलना में एआई अनुप्रयोग और विकास में वियतनाम की प्रतिस्पर्धात्मकता प्रभावित हो।

कुछ राय इस बात पर ज़ोर देती हैं कि आवेदन के दायरे और स्तर को स्पष्ट रूप से परिभाषित किया जाना चाहिए, क्या एआई तत्वों वाली सभी सामग्री को लेबल किया जाना चाहिए, या केवल उन उत्पादों को जिन्हें पूरी तरह से एआई द्वारा बनाया गया है या जिनमें महत्वपूर्ण रूप से हस्तक्षेप किया गया है। वियतनाम लॉ मीडिया जॉइंट स्टॉक कंपनी (LuatVietnam.vn) के निदेशक श्री ट्रान वान त्रि ने कहा कि जब सामग्री का केवल एक छोटा सा हिस्सा ही एआई का उपयोग करता है, तो क्या उसे लेबल करना आवश्यक है या नहीं? यह स्पष्ट रूप से बताना आवश्यक है कि क्या एआई ने निर्माण में सहायता की है या एआई ने पूरी तरह से निर्माण किया है।

मनोरंजन उद्योग में, कुछ कंपनियाँ एआई उत्पादों को कठोर लेबलिंग बाध्यताओं से मुक्त करने के लिए एक लचीली व्यवस्था चाहती हैं, और इसके बजाय उपयोग के स्तर के आधार पर चेतावनियाँ या पारदर्शी स्व-प्रकटीकरण लागू करती हैं। ध्वनि, छवियों और प्रभावों को बेहतर बनाने के लिए एआई का व्यापक रूप से उपयोग किया जाता है। यदि सभी को लेबल करना अनिवार्य कर दिया जाए, तो लागत और प्रक्रियाएँ बढ़ जाएँगी, जिससे रचनात्मकता में बाधा आएगी।

विज्ञान एवं प्रौद्योगिकी मंत्रालय के प्रमुख ने कहा कि कृत्रिम बुद्धिमत्ता पर मसौदा कानून प्रबंधन और विकास प्रोत्साहन के बीच एक उचित संतुलन बनाने, पारदर्शिता, व्यवहार्यता सुनिश्चित करने और अंतर्राष्ट्रीय मानकों के अनुरूप कार्य करने की दिशा में बनाया गया है। लेबलिंग का उद्देश्य मानव-निर्मित सामग्री और मशीन-जनित सामग्री के बीच की सीमा को स्पष्ट करना है, ताकि ढीले प्रबंधन या अत्यधिक सख्ती दोनों से बचा जा सके, ताकि प्रौद्योगिकी का विकास एक पारदर्शी और जिम्मेदार ढाँचे के भीतर हो सके।

हा लिन्ह

स्रोत: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html