'हम चारों 90 साल के हैं' वाली तस्वीर का सच

एआई द्वारा उत्पन्न चित्र/वीडियो सोशल नेटवर्क पर हजारों लोगों की सहभागिता को आकर्षित करते हैं, जिससे कई लोग उन्हें वास्तविक समझने की भूल कर बैठते हैं।

एआई द्वारा निर्मित छवियां फेसबुक पर हजारों इंटरैक्शन को आकर्षित करती हैं।

"हम चार बहनें हैं, आज हम 90 साल की हो गई हैं, हम आपकी बधाई का इंतजार कर रही हैं।" यह कैप्शन एक कोलाज फोटो के साथ लिखा गया था, जिसमें ऊपर चार छोटी लड़कियां और नीचे चार बुजुर्ग महिलाएं थीं, सभी के चेहरे पर चमकदार मुस्कान थी, जिसे 45,000 से अधिक लाइक, लगभग 9,000 टिप्पणियां और 500 से अधिक शेयर मिले।

नीचे, चार "बुज़ुर्गों" को उनके स्वास्थ्य के लिए बधाई और उनकी सुंदरता की प्रशंसा करते हुए कई पोस्ट हैं। हालाँकि, यह एक कृत्रिम बुद्धिमत्ता (AI) चित्र है। इसे शेयर करने वाले अकाउंट ने यह चित्र खुद नहीं बनाया है, बल्कि इसे किसी विदेशी स्रोत से लिया है।

कोपायलट, मिडजर्नी या डैल-ई जैसे एआई उपकरणों के विकास की बदौलत, उपयोगकर्ता केवल एक कमांड से अत्यधिक यथार्थवादी चित्र बना सकते हैं।

सोशल नेटवर्क पर एआई द्वारा निर्मित चित्र ढूंढना मुश्किल नहीं है। ये चित्र अक्सर परिवार और जीवन से जुड़े होते हैं, और भावनाओं को उभारकर कई तरह की बातचीत को आकर्षित करते हैं।

व्यापक रूप से मौजूद होने के बावजूद, एआई द्वारा उत्पन्न छवियों और सामान्य छवियों के बीच अंतर करना सभी के लिए आसान नहीं है। केवल "लाइक-बैटिंग" के अलावा, इस सामग्री का दुरुपयोग दुर्भावनापूर्ण उद्देश्यों के लिए भी किया जा सकता है, जैसे कि छद्म पहचान और फर्जी खबरें फैलाना।

सोशल नेटवर्क पर "लाइक फिशिंग" टूल

फेसबुक, इंस्टाग्राम या एक्स पर, उपयोगकर्ता आसानी से एआई द्वारा बनाए गए चित्र/ वीडियो देख सकते हैं। "हम चार बहनें हैं" या "इस लड़की ने अपने दिवंगत पिता का चित्र बनाया, लेकिन किसी ने उसका साथ नहीं दिया" जैसी सामग्री... हज़ारों इंटरैक्शन और हज़ारों टिप्पणियाँ आकर्षित करती है।

ये तस्वीरें मुख्यतः परिवार, प्रेम, उदासी से जुड़ी हैं... ज़्यादातर टिप्पणियों में पोस्ट के प्रति सहानुभूति व्यक्त की गई, लेकिन ज़्यादातर लोग यह नहीं पहचान पाए कि तस्वीर AI द्वारा बनाई गई है। पोस्ट करने वाले कई अकाउंट्स ने भी इसे स्पष्ट रूप से नोट नहीं किया।

फेसबुक पर कुछ AI-जनित तस्वीरों को वास्तविक फोटो समझ लिया जा रहा है।

विशेषज्ञ समीक्षक ले काँग मिन्ह खोई के अनुसार, फ़ेसबुक पर एआई सामग्री तेज़ी से दिखाई दे रही है। प्लेटफ़ॉर्म द्वारा उच्च जुड़ाव वाले कई पोस्ट सुझाए जाते हैं, लेकिन उनमें से ज़्यादातर पर एआई द्वारा निर्मित होने का स्पष्ट लेबल नहीं होता है।

"तकनीक से कम परिचित लोग शायद ही इस अंतर को पहचान पाएँ। पोस्ट पर हज़ारों टिप्पणियाँ सहानुभूतिपूर्ण हैं, जैसे 'बहुत मार्मिक'।

श्री खोई ने बताया, "एआई इतनी उन्नत हो गई है कि कुछ नए मॉडल हाथ और दांत जैसी सामान्य त्रुटियों को ठीक कर सकते हैं। मुझे खुद तस्वीरों की दोबारा जाँच करनी पड़ती है। एआई नोटिफिकेशन लेबल के बिना, उपयोगकर्ता उन्हें पहचान ही नहीं पाएँगे।"

वाटरलू विश्वविद्यालय (कनाडा) द्वारा मार्च 2024 में प्रकाशित एक सर्वेक्षण के अनुसार, 260 सर्वेक्षण प्रतिभागियों में से केवल 61% ही लोगों की AI-जनरेटेड तस्वीरों और वास्तविक लोगों की तस्वीरों के बीच अंतर कर पाए, जो शोधकर्ताओं की अपेक्षित दर (85%) से कम है।

कुछ एआई-जनित सामग्री हजारों इंटरैक्शन को आकर्षित करती है।

एक ऐसे व्यक्ति के रूप में जो नियमित रूप से सोशल नेटवर्क पर काम करता है, श्री खोई ने टिप्पणी की कि एआई छवियों/वीडियो का दुरुपयोग व्यूज बढ़ाने, इंटरैक्शन बढ़ाने या यहां तक ​​कि धोखाधड़ी करने के लिए किया जा रहा है।

श्री खोई ने कहा, "एआई सामग्री आसानी से दर्शकों को मनोवैज्ञानिक रूप से प्रभावित कर सकती है, उन्हें ऐसी चीजों पर विश्वास दिला सकती है जो सच नहीं हैं, यहां तक ​​कि उन्हें कम गुणवत्ता वाले उत्पाद खरीदने या संपादित विज्ञापनों, षड्यंत्र के सिद्धांतों पर विश्वास करने के लिए लुभाया जा सकता है..."

वास्तव में, गूगल और ड्यूक विश्वविद्यालय (अमेरिका) द्वारा मई 2024 में प्रकाशित एक अध्ययन से पता चला है कि गलत सूचना फैलाने के तरीकों में, एआई छवियों की लोकप्रियता लगभग पाठ और नियमित संपादित तस्वीरों के बराबर है।

AI-जनित छवियों में अंतर कैसे करें?

एआई द्वारा उत्पन्न तस्वीरों की गुणवत्ता लगातार बेहतर होती जा रही है, जिससे उन्हें असली तस्वीरों से अलग करना मुश्किल हो रहा है। हालाँकि, अगर उपयोगकर्ता ध्यान से देखें तो कुछ विवरणों पर अभी भी भरोसा कर सकते हैं।

एआई अक्सर अन्य छवियों से प्राप्त डेटा के आधार पर छवियां उत्पन्न करता है, इसलिए उपकरण कम प्रशिक्षित विवरणों के साथ संघर्ष कर सकते हैं।

सुरक्षा विशेषज्ञ न्गो मिन्ह हियू के अनुसार, हाथ और उंगलियां उल्लेखनीय विवरण हैं, क्योंकि एआई को अक्सर हाथों को पुनः बनाने में कठिनाई होती है, जिसके कारण अतिरिक्त या विकृत उंगलियों वाली छवियां बनती हैं।

अभिनेता रयान रेनॉल्ड्स की AI-जनरेटेड छवि। फ़ोटो: @joinrealmai/X .

रयान रेनॉल्ड्स की इस तस्वीर को ही लीजिए। हालाँकि इसका ज़्यादातर हिस्सा वास्तविक है, रेनॉल्ड्स के दाहिने हाथ की उंगलियाँ अप्राकृतिक आकार की हैं। उनकी जैकेट पर लिखा टेक्स्ट भी बिल्कुल बेतुका है। यह साफ़ संकेत है कि यह तस्वीर AI द्वारा बनाई गई है, क्योंकि इसने अभी तक सटीक टेक्स्ट या लोगो नहीं बनाया है।

इसके बाद, छवि में प्रकाश और छाया के प्रभावों को ट्रैक करना संभव है। अगर प्रकाश या छाया का कोण असामान्य है, तो संभावना है कि छवि AI द्वारा उत्पन्न की गई हो।

समान संदर्भ वाली विषय-वस्तु के लिए, उपयोगकर्ताओं को डुप्लिकेट विवरणों की जांच करनी चाहिए, क्योंकि एआई को अक्सर पूरी तरह से अलग-अलग तत्वों को उत्पन्न करने में कठिनाई होती है।

बीबीसी के अनुसार, यह "अति उत्तम" का एक उदाहरण है। नीचे दी गई गायिका एरियाना ग्रांडे की तस्वीर बिल्कुल असली लग रही है, लेकिन अगर आप गौर से देखेंगे, तो आपको पता चलेगा कि उनका चेहरा बहुत चिकना है, जिससे तस्वीर बहुत शार्प हो गई है। पृष्ठभूमि में राजहंसों की व्यवस्था भी अच्छी नहीं है।

गायिका एरियाना ग्रांडे की AI-जनरेटेड छवि। फोटो: @agswaffle/Instagram ।

यदि सामग्री वीडियो प्रारूप में है, तो जांचने योग्य विवरण में शामिल हैं - होंठों की गतिविधियां जो भाषण से मेल नहीं खाती हों, आंखों का कम या अस्वाभाविक रूप से झपकना, त्वचा की बनावट धुंधली होना...

अंत में, यदि आप अभी भी किसी चेहरे, हाथ या प्रकाश के बारे में अनिश्चित हैं, तो आपको स्रोत का पता लगाने के लिए गूगल और इसी तरह के अन्य उपकरणों पर रिवर्स सर्च करना चाहिए।

श्री हियू ने कहा, "यदि आपको किसी छवि की प्रामाणिकता के बारे में संदेह है, तो आप रिवर्स सर्च इंजन का उपयोग करके जांच कर सकते हैं कि क्या वह छवि पहले कहीं और दिखाई गई है।"