तकनीकी उद्योग एआई-जनित छवियों की पहचान करना चाहता है

[विज्ञापन_1]

ट्रूपिक के सीईओ जेफरी मैकग्रेगर ने कहा कि यह घटना तो बस "हिमशैल" का एक छोटा सा हिस्सा है। मैकग्रेगर ने कहा कि सोशल मीडिया पर एआई-जनरेटेड कंटेंट और भी ज़्यादा होगा, और हम इसके लिए तैयार नहीं हैं।

सीएनएन के अनुसार, ट्रूपिक इस समस्या का समाधान एक ऐसी तकनीक उपलब्ध कराकर करना चाहता है जो ट्रूपिक लेंस के ज़रिए निर्माण के समय मीडिया को प्रमाणित करने का दावा करती है। डेटा एकत्र करने वाला यह ऐप उपयोगकर्ताओं को चित्र बनाने की तारीख, समय, स्थान और डिवाइस बताएगा, और यह सत्यापित करने के लिए एक डिजिटल हस्ताक्षर लागू करेगा कि चित्र प्राकृतिक है या कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित।

पेंटागन विस्फोट की फर्जी तस्वीर ट्विटर पर वायरल

2015 में स्थापित माइक्रोसॉफ्ट समर्थित कंपनी ट्रूपिक ने कहा कि कंपनी को एनजीओ से लेकर मीडिया कंपनियों तक की रुचि मिल रही है, यहां तक कि बीमा कंपनियां भी यह पुष्टि करना चाहती हैं कि दावे वैध हैं।

मैकग्रेगर ने कहा कि जब सब कुछ नकली हो सकता है, जब कृत्रिम बुद्धिमत्ता गुणवत्ता और पहुंच में अपने चरम पर पहुंच गई है, तो हम यह नहीं जानते कि ऑनलाइन वास्तविकता क्या है।

ट्रूपिक जैसी तकनीकी कंपनियाँ वर्षों से ऑनलाइन गलत सूचनाओं से निपटने के लिए काम कर रही हैं। लेकिन उपयोगकर्ता के आदेशों से चित्र और टेक्स्ट उत्पन्न करने वाले नए प्रकार के एआई उपकरणों के आगमन ने इस काम को और भी ज़रूरी बना दिया है। इस साल की शुरुआत में, बालेंसीगा डाउन जैकेट पहने पोप फ्रांसिस और पूर्व अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप की गिरफ़्तारी की फ़र्ज़ी तस्वीरें खूब शेयर की गईं। दोनों घटनाओं ने लाखों लोगों को एआई के संभावित खतरों के प्रति चिंतित कर दिया है।

कुछ सांसद अब तकनीकी कंपनियों से एआई-जनित सामग्री को लेबल करके इस समस्या का समाधान करने का आह्वान कर रहे हैं। यूरोपीय आयोग की उपाध्यक्ष वेरा जौरोवा ने कहा कि गूगल, मेटा, माइक्रोसॉफ्ट और टिकटॉक जैसी कंपनियाँ दुष्प्रचार से निपटने के लिए यूरोपीय संघ की स्वैच्छिक आचार संहिता में शामिल हो गई हैं।

स्टार्टअप्स और तकनीकी दिग्गजों की बढ़ती संख्या, जिनमें से कुछ अपने उत्पादों में जनरेटिव एआई को लागू कर रहे हैं, लोगों को यह निर्धारित करने में मदद करने के लिए मानकों और समाधानों को लागू करने की कोशिश कर रहे हैं कि कोई छवि या वीडियो एआई के साथ बनाया गया था या नहीं।

लेकिन जैसे-जैसे एआई तकनीक इंसानों की पहुँच से बाहर होती जा रही है, यह स्पष्ट नहीं है कि क्या ये समाधान समस्या का पूरी तरह से समाधान कर पाएँगे। यहाँ तक कि डैल-ई और चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने भी स्वीकार किया है कि एआई द्वारा उत्पन्न लेखन का पता लगाने में मदद करने के उसके अपने प्रयास अपूर्ण हैं।

समाधान विकसित करने वाली कंपनियाँ इस समस्या के समाधान के लिए दो तरीके अपना रही हैं। पहला, एआई-जनित छवियों को उनके निर्माण और ऑनलाइन साझा किए जाने के बाद पहचानने वाले प्रोग्राम विकसित करना। दूसरा, एक प्रकार के डिजिटल हस्ताक्षर के साथ किसी छवि को वास्तविक या एआई-जनित के रूप में चिह्नित करने पर केंद्रित है।

रियलिटी डिफेंडर और हाइव मॉडरेशन पहले प्लेटफ़ॉर्म पर काम कर रहे हैं। उनके प्लेटफ़ॉर्म के ज़रिए, उपयोगकर्ता स्कैन करने के लिए तस्वीरें अपलोड कर सकते हैं और फिर एक विश्लेषण प्राप्त कर सकते हैं जो यह दर्शाता है कि तस्वीर असली है या AI द्वारा बनाई गई है।

रियलिटी डिफेंडर का कहना है कि वह एआई-जनरेटेड वीडियो, ऑडियो और तस्वीरों का पता लगाने के लिए मालिकाना डीपफेक और जेनरेटिव कंटेंट फ़िंगरप्रिंटिंग तकनीक का इस्तेमाल करता है। कंपनी द्वारा दिए गए एक उदाहरण में, रियलिटी डिफेंडर ने टॉम क्रूज़ की एक डीपफेक तस्वीर दिखाई जो 53% "संदिग्ध" थी क्योंकि तस्वीर में दिख रहे व्यक्ति का चेहरा विकृत था, जो कि छेड़छाड़ की गई तस्वीरों में आम है।

ये सेवाएँ मुफ़्त और सशुल्क दोनों तरह के संस्करण प्रदान करती हैं। हाइव मॉडरेशन का कहना है कि वह प्रति 1,000 तस्वीरों के लिए $1.50 का शुल्क लेता है। रियल्टी डिफेंडर का कहना है कि जहाँ ग्राहकों को कंपनी की विशेषज्ञता और सहायता की आवश्यकता होती है, वहाँ इसकी कीमत कई कारकों के आधार पर अलग-अलग हो सकती है। रियलिटी डिफेंडर के सीईओ बेन कोलमैन का कहना है कि जोखिम हर महीने दोगुना होता जा रहा है क्योंकि कोई भी एआई टूल्स का इस्तेमाल करके नकली तस्वीरें बना सकता है।

कई अन्य कंपनियाँ तस्वीरों पर एक प्रकार का लेबल लगाने पर काम कर रही हैं ताकि यह प्रमाणित किया जा सके कि वे असली हैं या कृत्रिम बुद्धिमत्ता (AI) द्वारा उत्पन्न। अब तक, यह प्रयास मुख्यतः कंटेंट ऑथेंटिसिटी एंड ओरिजिनेशन अलायंस (C2PA) द्वारा संचालित किया गया है।

डिजिटल मीडिया की उत्पत्ति और इतिहास को प्रमाणित करने हेतु एक तकनीकी मानक तैयार करने के लिए 2021 में C2PA की स्थापना की गई थी। यह Adobe के कंटेंट ऑथेंटिकेशन इनिशिएटिव (CAI) और Microsoft व BBC के नेतृत्व वाले प्रोजेक्ट ओरिजिन को मिलाकर डिजिटल समाचारों में गलत सूचनाओं से निपटने पर केंद्रित है। C2PA में शामिल अन्य कंपनियों में ट्रूपिक, इंटेल और सोनी शामिल हैं।

C2PA के सिद्धांतों के आधार पर, CAI कंपनियों के लिए ओपन-सोर्स टूल जारी करेगा ताकि वे कंटेंट क्रेडेंशियल या मेटाडेटा बना सकें जिनमें इमेज से जुड़ी जानकारी हो। CAI वेबसाइट के अनुसार, इससे क्रिएटर्स पारदर्शी तरीके से अपनी इमेज बनाने की जानकारी साझा कर सकेंगे। इस तरह, अंतिम उपयोगकर्ता यह जान पाएँगे कि इमेज में किसने, क्या और कैसे बदलाव किया है—और फिर खुद ही तय कर पाएँगे कि इमेज कितनी प्रामाणिक है।

कई कंपनियों ने पहले ही अपने अनुप्रयोगों में C2PA मानक और CAI टूल को एकीकृत कर लिया है। Adobe का Firefly, जो फ़ोटोशॉप में जोड़ा गया एक नया AI इमेजिंग टूल है, अपने कंटेंट क्रेडेंशियल्स फ़ीचर के माध्यम से C2PA मानक का अनुपालन करता है। Microsoft ने यह भी घोषणा की है कि आने वाले महीनों में Bing Image Creator और Microsoft Designer से बनाई गई छवियों और वीडियो में क्रिप्टोग्राफ़िक हस्ताक्षर होंगे।

मई में, गूगल ने "इस इमेज के बारे में" फ़ीचर की घोषणा की, जिससे यूज़र्स यह जान सकते हैं कि कोई इमेज गूगल पर पहली बार कब दिखाई दी थी और उसे कहाँ देखा जा सकता है। सर्च दिग्गज ने यह भी घोषणा की कि गूगल की हर AI-जनरेटेड इमेज की मूल फ़ाइल में एक मार्कअप होगा ताकि अगर वह इमेज किसी दूसरी वेबसाइट या प्लेटफ़ॉर्म पर मिलती है, तो "संदर्भ जोड़ा जा सके"।

जहाँ तकनीकी कंपनियाँ एआई-जनित छवियों और डिजिटल मीडिया की अखंडता से जुड़ी चिंताओं को दूर करने की कोशिश कर रही हैं, वहीं इस क्षेत्र के विशेषज्ञ इस बात पर ज़ोर दे रहे हैं कि इस समस्या के समाधान के लिए व्यवसायों को सरकारों के साथ मिलकर काम करना होगा। फिर भी, तकनीकी कंपनियाँ जोखिमों के बावजूद एआई विकसित करने की होड़ में लगी हुई हैं।

[विज्ञापन_2]
स्रोत लिंक