गाजा युद्ध के डीपफेक ने एआई को लेकर चिंताएं बढ़ाईं

[विज्ञापन_1]

ऑनलाइन लाखों बार देखी जा चुकी ये तस्वीरें कृत्रिम बुद्धिमत्ता का इस्तेमाल करके बनाई गई डीपफेक हैं। अगर आप गौर से देखें, तो आपको कुछ संकेत दिखाई देंगे: अजीब तरह से मुड़ी हुई उंगलियाँ या अप्राकृतिक रोशनी से चमकती आँखें।

हालाँकि, इन डीपफेक छवियों से उत्पन्न आक्रोश वास्तविक है।

इजराइल-हमास युद्ध की तस्वीरें स्पष्ट और दर्दनाक तरीके से कृत्रिम बुद्धिमत्ता के खतरों को दर्शाती हैं, जो एक प्रचार उपकरण के रूप में है, जिसका उपयोग जीवंत चित्र बनाने के लिए किया जाता है।

पिछले महीने से लड़ाई शुरू होने के बाद से, सोशल मीडिया पर प्रसारित डिजिटल रूप से छेड़छाड़ की गई तस्वीरों का उपयोग हताहतों की जिम्मेदारी के बारे में झूठे दावे करने या लोगों को ऐसे अत्याचारों के बारे में गुमराह करने के लिए किया जा रहा है जो कभी हुए ही नहीं।

गाजा युद्ध की डीपफेक तस्वीरें नई चिंताएं पैदा करती हैं छवि 1 — गाजा में मलबे से सामान उठाता एक फिलिस्तीनी। एपी फोटो।

तकनीकी प्रगति बढ़ती आवृत्ति और कम निगरानी के साथ हो रही है। इससे एआई के एक और हथियार बनने का जोखिम स्पष्ट हो जाता है और भविष्य के संघर्षों, चुनावों और अन्य प्रमुख घटनाओं में क्या होगा, इसकी एक झलक मिलती है।

सैन फ्रांसिस्को और पेरिस स्थित प्रौद्योगिकी कंपनी CREOpoint के सीईओ जीन-क्लाउड गोल्डनस्टीन ने कहा, "चीजें बेहतर होने से पहले और भी बदतर हो जाएंगी।" CREOpoint ऑनलाइन शिकायतों की वैधता का आकलन करने के लिए AI का उपयोग करती है।

उनकी कंपनी ने गाज़ा से सबसे ज़्यादा वायरल हुई डीपफ़ेक तस्वीरों का एक डेटाबेस तैयार किया है। उन्होंने कहा, "तस्वीरें, वीडियो और ऑडियो: रचनात्मक एआई के साथ, यह एक ऐसा कदम है जो आपने पहले कभी नहीं देखा होगा।"

युद्ध संबंधी गलत सूचनाओं पर नजर रखने वाली गैर-लाभकारी संस्था सेंटर फॉर काउंटरिंग डिजिटल हेट के सीईओ इमरान अहमद ने कहा कि ऐसे चित्र बनाने वाले प्रचारक लोगों की गहरी भावनाओं और चिंताओं को निशाना बनाने में कुशल होते हैं।

तस्वीर जितनी ज़्यादा डरावनी होगी, उतनी ही ज़्यादा संभावना है कि यूज़र्स उसे याद रखेंगे और शेयर करेंगे, जिससे अनजाने में और भी ग़लत जानकारी फैल जाएगी। रूस-यूक्रेन संघर्ष के बाद से एआई द्वारा जनित ऐसी ही ग़लत जानकारियाँ वायरल होने लगी हैं।

हर नया संघर्ष या चुनावी मौसम दुष्प्रचार फैलाने वालों के लिए नए अवसर प्रस्तुत करता है। इसी वजह से कई एआई विशेषज्ञ और राजनीतिक वैज्ञानिक आने वाले वर्ष में आने वाले जोखिमों की चेतावनी दे रहे हैं, जब अमेरिका, भारत, पाकिस्तान, यूक्रेन, इंडोनेशिया और मेक्सिको सहित कई देशों में बड़े चुनाव होने वाले हैं।

अमेरिकी मतदाताओं के बीच झूठ फैलाने के लिए एआई और सोशल मीडिया के इस्तेमाल के खतरे ने वाशिंगटन में दोनों दलों के सांसदों को चिंतित कर दिया है। डीपफेक तकनीक के खतरों पर हाल ही में हुई एक सुनवाई में, वर्जीनिया के डेमोक्रेट अमेरिकी प्रतिनिधि गेरी कोनोली ने कहा कि अमेरिका को अन्य एआई का मुकाबला करने के लिए डिज़ाइन किए गए एआई उपकरणों के विकास में निवेश करने की आवश्यकता है।

बफ़ेलो विश्वविद्यालय के प्रोफेसर डेविड डोरमैन ने कहा कि एआई द्वारा उत्पन्न गलत सूचना से उत्पन्न राजनीतिक और सामाजिक चुनौतियों का प्रभावी ढंग से जवाब देने के लिए बेहतर प्रौद्योगिकी और बेहतर विनियमन दोनों की आवश्यकता होगी।

माई आन्ह (एपी के अनुसार)

[विज्ञापन_2]
स्रोत