विशेषज्ञों ने चेतावनी दी है कि AI रूढ़िवादी और अतिरंजित छवियां बना रहा है

जब आप गरीबी के विषय पर चित्र खोजते हैं, तो आपको फटेहाल अफ्रीकी बच्चों, कचरे से भरी नदियों में तैरते एशियाई बच्चों की ढेर सारी तस्वीरें मिल सकती हैं... जो AI द्वारा बनाई गई हैं।

एआई के उत्पाद: नस्लवाद और पूर्वाग्रह

वैश्विक स्वास्थ्य विशेषज्ञों के अनुसार, गरीबी, बच्चों और यौन हिंसा के शिकार लोगों जैसे विषयों की एआई-जनित तस्वीरें ऑनलाइन फोटो संग्रहों में भर रही हैं और गैर-सरकारी संगठन (एनजीओ) इनका इस्तेमाल तेज़ी से कर रहे हैं। विशेषज्ञों ने चेतावनी दी है कि यह "गरीबी शोषण संस्कृति के एक नए युग" का संकेत हो सकता है।

एंटवर्प स्थित उष्णकटिबंधीय चिकित्सा संस्थान के शोधकर्ता आर्सेनी एलेनिचेव, जो वैश्विक स्वास्थ्य चित्रों के उत्पादन का अध्ययन करते हैं, ने कहा, "ये चित्र गरीबी के सामान्य दृश्य को दर्शाते हैं - बच्चे खाली कटोरे पकड़े हुए हैं, जमीन फटी हुई है... बहुत रूढ़िवादी। "

श्री एलेनिचव ने अत्यधिक गरीबी की 100 से अधिक एआई-जनित छवियां एकत्र कीं, जिनका उपयोग व्यक्तियों या गैर सरकारी संगठनों द्वारा भूख और यौन हिंसा के खिलाफ सोशल मीडिया अभियानों में किया गया।

गार्जियन के साथ साझा की गई उनकी तस्वीरें अतिरंजित और रूढ़िवादी दृश्य दिखाती हैं: कीचड़ के गड्ढों में दुबके बच्चे; शादी के कपड़े पहने एक अफ़्रीकी लड़की जिसके चेहरे पर आँसू बह रहे हैं। लैंसेट ग्लोबल हेल्थ जर्नल में प्रकाशित एक हालिया टिप्पणी में, उन्होंने तर्क दिया कि ये तस्वीरें "गरीबी पोर्न का दूसरा संस्करण" हैं।

एक फ़ोटो वेबसाइट पर AI द्वारा उत्पन्न "गरीबी" की तस्वीर दिखाता स्क्रीनशॉट। (फोटो: फ्रीपिक)

श्री एलेनिचव और कई अन्य विशेषज्ञों का कहना है कि कॉपीराइट और लागत संबंधी चिंताओं के कारण एआई छवियों का उपयोग बढ़ रहा है। अमेरिकी सरकार द्वारा गैर-सरकारी संगठनों के बजट में कटौती ने इस समस्या को और बदतर बना दिया है।

उन्होंने कहा, "ज़ाहिर है, कई संगठन असली तस्वीरों की बजाय एआई इमेज का इस्तेमाल करने पर विचार कर रहे हैं क्योंकि यह सस्ता है। आपको कॉपीराइट और कई दूसरी चीज़ों की भी चिंता करने की ज़रूरत नहीं है।"

क्या जिम्मेदारी उपयोगकर्ता की है या प्लेटफॉर्म की?

गरीबी की AI-जनित तस्वीरें एडोब स्टॉक फोटोज और फ्रीपिक सहित दर्जनों फोटो साइटों पर दिखाई देती हैं। कई तस्वीरों के शीर्षक इस प्रकार हैं: "शरणार्थी शिविर में एक अद्भुत बच्चा"; "कचरे से भरी नदी में तैरते एशियाई बच्चे"; "एक अफ्रीकी गाँव में अश्वेत बच्चों को चिकित्सा सलाह देते श्वेत स्वयंसेवक"; और भी बहुत कुछ। एडोब उस सूची की अंतिम दो तस्वीरों के अधिकार लगभग £60 में बेचता है।

एलेनिचेव ने कहा, "ये तस्वीरें स्पष्ट रूप से नस्लवादी हैं और इन्हें पोस्ट करने की अनुमति नहीं दी जानी चाहिए, क्योंकि ये अफ्रीका, भारत या किसी भी चीज़ के बारे में सबसे खराब रूढ़िवादी धारणाएं हैं।"

फ्रीपिक के सीईओ जोआकिन अबेला ने कहा कि ऐसी अतिरंजित तस्वीरों के इस्तेमाल की ज़िम्मेदारी उपयोगकर्ताओं की है, न कि उनके जैसे प्लेटफ़ॉर्म की। उनके अनुसार, एआई स्टॉक तस्वीरें उपयोगकर्ताओं के एक वैश्विक समुदाय द्वारा बनाई जाती हैं, जिन्हें फ्रीपिक ग्राहकों द्वारा उनकी तस्वीरें खरीदने पर रॉयल्टी मिल सकती है।

फ्रीपिक ने अपनी फोटो लाइब्रेरी में "विविधता का समावेश" करके पूर्वाग्रहों को दूर करने की कोशिश की है। साथ ही, वे वकीलों और अधिकारियों की तस्वीरों में लैंगिक संतुलन सुनिश्चित करने का भी प्रयास करते हैं।

लेकिन, वे कहते हैं, उनका प्लेटफ़ॉर्म बस इतना ही कर सकता है। "यह समुद्र को सुखाने की कोशिश करने जैसा है। हमने कोशिश की है, लेकिन हक़ीक़त यह है कि अगर दुनिया भर के ग्राहक चाहते हैं कि उनकी तस्वीरें एक ख़ास तरह की दिखें, तो कोई भी इसमें कुछ नहीं कर सकता।"

चैरिटी प्लान इंटरनेशनल के 2023 बाल विवाह विरोधी अभियान से एआई-जनित छवि, जिसका उद्देश्य "लड़कियों की गोपनीयता और गरिमा" की रक्षा करना है। (फोटो: प्लान इंटरनेशनल)

कई प्रतिष्ठित संगठनों ने एआई-जनित छवियों का उपयोग किया है, यहां तक ​​कि संयुक्त राष्ट्र ने भी।

पिछले साल, संयुक्त राष्ट्र ने यूट्यूब पर यौन हिंसा के "पुनर्प्रस्तुतिकरण" वाला एक वीडियो पोस्ट किया था, जिसमें एक बुरुंडी की महिला की गवाही भी शामिल थी, जिसमें उसने बताया था कि 1993 में तीन पुरुषों ने उसका बलात्कार किया और उसे मरने के लिए छोड़ दिया था। यह सामग्री पूरी तरह से कृत्रिम बुद्धिमत्ता (AI) द्वारा तैयार की गई थी। गार्जियन द्वारा संयुक्त राष्ट्र से एक साक्षात्कार के लिए संपर्क करने के बाद, वीडियो को हटा दिया गया।

संयुक्त राष्ट्र के एक प्रवक्ता ने बाद में बताया कि वीडियो क्यों हटाया गया। "हमारा मानना ​​है कि वीडियो को कृत्रिम बुद्धिमत्ता (एआई) द्वारा गलत तरीके से तैयार किया गया था और इससे सूचना की अखंडता को खतरा हो सकता है, क्योंकि इसमें असली फुटेज को असली जैसी दिखने वाली कृत्रिम सामग्री के साथ मिला दिया गया है।"

एआई-जनित उत्पाद लंबे समय से नकलची पाए गए हैं, और कभी-कभी सच्चाई को बढ़ा-चढ़ाकर पेश करते हैं। श्री एलेनिचेव ने कहा कि इन पक्षपातपूर्ण छवियों का प्रसार समस्या को और बदतर बना सकता है, क्योंकि इन छवियों को विशाल इंटरनेट पर फैलाया जा सकता है और अगली पीढ़ी के एआई को प्रशिक्षित करने के लिए इस्तेमाल किया जा सकता है।

प्लान इंटरनेशनल के एक प्रवक्ता ने कहा कि एनजीओ वर्तमान में "बच्चों को चित्रित करने के लिए एआई का उपयोग करने के खिलाफ सिफारिश करता है।"

मिन्ह होआन

स्रोत: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html