सोशल नेटवर्क एक्स को गायिका टेलर स्विफ्ट की डीपफेक अश्लील तस्वीरें वायरल होने के बाद उनके लिए सर्च ब्लॉक करना पड़ा है। एक्स प्लेटफॉर्म पर टेलर स्विफ्ट को सर्च करने पर यूजर्स को एक एरर मैसेज दिखाई देगा और पेज को रीलोड करने का अनुरोध किया जाएगा। एक्स के बिजनेस ऑपरेशंस डायरेक्टर जो बेनारोच ने कहा कि यह एक प्रारंभिक कार्रवाई है और इसे सावधानी से किया जा रहा है।

ofdhxx6v.png
AI द्वारा बनाई गई टेलर स्विफ्ट की नग्न तस्वीरें X और फ़ेसबुक पर छा गईं, लेकिन बाद में उन्हें हटा दिया गया। (फोटो: रॉयटर्स)

टेलर स्विफ्ट की AI-जनरेटेड अश्लील तस्वीरें 24 जनवरी को X पर प्रसारित होने लगीं, जिसके बाद गायिका के प्रशंसकों ने इस डीपफेक को "दबाने" के लिए स्टार की कई असली तस्वीरें पोस्ट कर दीं। उन्होंने X से इन तस्वीरों को हटाने और नकली तस्वीरें शेयर करने वाले अकाउंट्स की रिपोर्ट करने के लिए सख्त कदम उठाने का भी अनुरोध किया। "टेलर स्विफ्ट की रक्षा करें" का नारा भी इस प्लेटफॉर्म पर टॉप ट्रेंड बन गया।

एक दिन बाद, रिपोर्ट किए गए खातों को निलंबित या प्रतिबंधित कर दिया गया, लेकिन एक्स पर एआई पोर्न ढूंढना अभी भी आसान था।

सप्ताहांत में एक बयान में, एक्स ने कहा कि वह विषय की अनुमति के बिना ग्राफ़िक छवियों को साझा करने पर प्रतिबंध लगाता है और ऐसी सामग्री के लिए उसकी शून्य-सहिष्णुता की नीति है। बयान में स्विफ्ट का नाम नहीं लिया गया।

एक्स ने कहा, "हमारी टीम सक्रिय रूप से पहचानी गई सभी तस्वीरों को हटा रही है और उन्हें पोस्ट करने वाले अकाउंट्स के खिलाफ उचित कार्रवाई कर रही है। हम स्थिति पर कड़ी नज़र रखेंगे ताकि यह सुनिश्चित हो सके कि आगे किसी भी उल्लंघन का तुरंत समाधान किया जाए और सामग्री को हटाया जाए।"

जनरेटिव एआई में प्रगति ने दूसरों की अश्लील तस्वीरें बनाना आसान बना दिया है। 2022 में एलन मस्क के नियंत्रण में आने के बाद, एक्स के साथ, कई सेंसरशिप नियमों में ढील दी गई है, जबकि उन्होंने अपनी वित्तीय स्थिति को स्थिर करने के लिए हज़ारों कर्मचारियों की छंटनी की है।

एनबीसी न्यूज़ के अनुसार, यह स्पष्ट नहीं है कि टेलर स्विफ्ट की डीपफेक तस्वीरें कहाँ से आईं, लेकिन उन पर वॉटरमार्क लगा हुआ था जिससे पता चलता है कि वे एक ऐसी वेबसाइट से आई हैं जो मशहूर हस्तियों की नकली अश्लील तस्वीरें वितरित करने के लिए जानी जाती है। वेबसाइट में एआई डीपफेक के लिए समर्पित एक सेक्शन भी है। स्विफ्ट की नकली तस्वीरों को पोस्ट किए जाने के 19 घंटे बाद 2.7 करोड़ से ज़्यादा बार देखा गया और 2.6 लाख से ज़्यादा बार लाइक किया गया।

इस घटना के बाद, माइक्रोसॉफ्ट के सीईओ सत्य नडेला ने एआई को नियंत्रित करने के लिए और अधिक सुरक्षा उपाय लागू करने का आह्वान किया। एनबीसी न्यूज़ को दिए एक साक्षात्कार में, उन्होंने तर्क दिया कि इस उभरती हुई तकनीक पर नज़र रखना हमारी ज़िम्मेदारी है ताकि अधिक सुरक्षित सामग्री तैयार की जा सके।

स्विफ्ट के डीपफेक के बारे में एक सवाल का जवाब देते हुए, माइक्रोसॉफ्ट प्रमुख ने कहा: "हां, हमें कार्रवाई करनी होगी। मुझे लगता है कि हम सभी को एक सुरक्षित ऑनलाइन दुनिया से लाभ होता है। मुझे नहीं लगता कि कोई भी ऐसी ऑनलाइन दुनिया चाहता है जो सामग्री निर्माताओं और सामग्री उपभोक्ताओं दोनों के लिए पूरी तरह से असुरक्षित हो। इसलिए मुझे लगता है कि हमें इस मुद्दे पर जल्दी से कार्रवाई करने की आवश्यकता है।"

404 मीडिया के अनुसार, एक टेलीग्राम चैट समूह ने कहा कि उसने टेलर की फ़र्ज़ी तस्वीर बनाने के लिए माइक्रोसॉफ्ट के एआई-जनरेटेड डिज़ाइनर टूल का इस्तेमाल किया। श्री नडेला ने 404 मीडिया की जानकारी पर सीधे तौर पर कोई टिप्पणी नहीं की, लेकिन समाचार साइट को भेजे गए एक बयान में, माइक्रोसॉफ्ट ने बताया कि वह इस रिपोर्ट की जाँच कर रहा है और उचित कार्रवाई करेगा।

अमेरिकी राष्ट्रपति जो बिडेन के प्रशासन ने टेलर स्विफ्ट के अश्लील डीपफेक के प्रसार को "खतरनाक" बताया और सोशल मीडिया कंपनियों से बिना सहमति के झूठी जानकारी और संवेदनशील छवियों के प्रसार को रोकने के लिए नियमों को लागू करने में उनकी "महत्वपूर्ण भूमिका" की जांच करने का आह्वान किया।

अक्टूबर 2023 में, राष्ट्रपति बिडेन ने उभरती प्रौद्योगिकी और इसके जोखिमों को विनियमित करने पर केंद्रित एआई पर एक कार्यकारी आदेश पर हस्ताक्षर किए।

(द हिल, डब्ल्यूएसजे के अनुसार)