एआई की द्वैतता

कृत्रिम बुद्धिमत्ता (एआई) कई अवसर खोल रही है, लेकिन इसका दुरुपयोग फर्जी डीपफेक वीडियो बनाने में भी हो रहा है, जो पुलिस बल और सरकार की छवि को विकृत करते हैं और जनमत को भड़काते हैं। इस तरह से परिष्कृत रूप से संपादित किए गए ये वीडियो न केवल अधिकारियों पर विश्वास को कम करते हैं, बल्कि साइबरस्पेस में मनोवैज्ञानिक युद्ध का एक परिष्कृत रूप भी प्रस्तुत करते हैं।

अब समय आ गया है कि प्रत्येक उपयोगकर्ता एक "डिजिटल शील्ड" बने, हर क्लिक और शेयर के साथ सतर्क, सावधान और जिम्मेदार रहे।

कृत्रिम बुद्धिमत्ता के लाभ और उससे जुड़ी बारीक रेखा

कृत्रिम बुद्धिमत्ता (AI) पहले कभी भी हमारे दैनिक जीवन के इतने करीब नहीं आई थी। बस कुछ क्लिक और एक छोटे से आदेश से हम आश्चर्यजनक यथार्थता के साथ आवाजें, चित्र और यहां तक ​​कि वीडियो भी बना सकते हैं। AI समय बचाता है, सामग्री निर्माण लागत को कम करता है और लचीले डिजिटल मीडिया के एक नए युग की शुरुआत करता है।

हालांकि, "वास्तविकता को यथार्थवादी तरीके से प्रस्तुत करने" की यही क्षमता दोधारी तलवार बन गई है। हाल ही में, सोशल मीडिया पर डीपफेक तकनीक का उपयोग करके बनाए गए वीडियो की बाढ़ आ गई है, जिनमें पुलिस प्रमुखों के चेहरों और संवेदनशील मामलों में शामिल कानून प्रवर्तन अधिकारियों की छवियों को वॉयसओवर के साथ छेड़छाड़ और विकृत करके जनता को गुमराह करने और विभाजित करने का प्रयास किया गया है।

इस तरह की कृत्रिम तस्वीरें सोशल मीडिया पर तेजी से आम होती जा रही हैं।

एक वायरल टिकटॉक वीडियो में, ड्यूटी पर तैनात एक ट्रैफिक पुलिस अधिकारी की तस्वीरों को आपत्तिजनक संवाद के साथ दिखाया गया था, साथ ही हैशटैग "सिर्फ दिखावे के लिए जुर्माना" का इस्तेमाल किया गया था, जिससे यह संकेत मिलता है कि अधिकारी ने निजी लाभ के लिए अपनी शक्ति का दुरुपयोग किया। कई उपयोगकर्ताओं, विशेषकर युवाओं ने, इस सामग्री पर आसानी से विश्वास कर लिया क्योंकि दृश्य इतने यथार्थवादी थे और आवाज होंठों की हरकतों से इतनी मिलती-जुलती थी कि असली और नकली में अंतर करना बेहद मुश्किल हो गया था।

डिएन बिएन के एक युवा यूट्यूबर को केवल अपनी एआई तकनीक की क्षमताओं का "प्रदर्शन" करने के लिए प्रशासनिक जुर्माना और जबरन सार्वजनिक माफी की सजा भुगतनी पड़ी है। 24 जनवरी की दोपहर को, डिएन बिएन प्रांतीय पुलिस ने घोषणा की कि साइबर सुरक्षा और उच्च-तकनीकी अपराध निवारण विभाग ने टोंग वान टी. (जन्म 2001, निवासी मुओंग आंग जिला) पर यातायात पुलिस अधिकारियों के बारे में विकृत और अपमानजनक सामग्री वाला एक मनगढ़ंत वीडियो बनाने के लिए एआई का उपयोग करने के आरोप में 75 लाख वीएनडी का प्रशासनिक जुर्माना लगाया है।

विशेष रूप से, 7 जनवरी को, टी. ने अपने यूट्यूब अकाउंट "तुयेन व्लॉग" पर 3 मिनट से अधिक लंबा एक वीडियो अपलोड किया, जिसका शीर्षक था: "बाहर घूमते समय, मेरा पीछा ट्रैफिक पुलिस ने किया।" क्लिप में, कृत्रिम बुद्धिमत्ता (AI) तकनीक का उपयोग करके दृश्य और परिस्थितियाँ बनाई गई थीं, जिसमें ट्रैफिक पुलिस द्वारा नागरिकों का पीछा करने का अनुकरण किया गया था, और इसमें ऐसे प्रभाव और टिप्पणियाँ शामिल थीं जो कानून प्रवर्तन के प्रति अपमानजनक और मानहानिकारक थीं।

पुलिस के साथ सहयोग करते हुए, टी. ने स्वीकार किया कि वीडियो क्लिप की पूरी सामग्री मनगढ़ंत थी और इसे "मनोरंजन" के उद्देश्य से और एआई तकनीक का उपयोग करने की अपनी क्षमता प्रदर्शित करने के लिए बनाया गया था। जुर्माने के अलावा, अधिकारियों ने टी. को फर्जी वीडियो हटाने और अपने निजी यूट्यूब चैनल पर यातायात पुलिस बल से सार्वजनिक रूप से माफी मांगने का आदेश दिया।

डिजिटल क्रांति के युग में, विशेषकर कृत्रिम बुद्धिमत्ता के तीव्र विकास के दौर में, शत्रुतापूर्ण और प्रतिक्रियावादी ताकतों ने वियतनामी जन पुलिस बल की छवि को विकृत और धूमिल करने के उद्देश्य से मनगढ़ंत तस्वीरें और कहानियां गढ़ने के लिए इस उपकरण का भरपूर फायदा उठाया है। हाल ही में सोशल मीडिया पर वायरल हुई एक तस्वीर, जिसमें पुलिस की वर्दी पहने एक गर्भवती महिला को "गुंडे" जैसे दिखने वाले दो पुरुषों द्वारा धमकाया जा रहा है, इस रणनीति का स्पष्ट प्रमाण है।

कृत्रिम बुद्धिमत्ता का उपयोग करके बनाई गई यह तस्वीर हाल ही में सोशल मीडिया पर वायरल हो गई है।

पहली नज़र में, दर्शक इसे आसानी से एक वास्तविक दृश्य समझ सकते हैं, साथ ही सनसनीखेज हेडलाइन भी देख सकते हैं जैसे: "गरीब लड़के ने गैंगस्टरों के हमले से जूझ रही गर्भवती महिला पुलिस अधिकारी की जान बचाई, अनजाने में एक ऐसे मामले का खुलासा किया जिसने पूरे देश को झकझोर दिया..."। हालांकि, यह वास्तव में एक बनावटी दृश्य है, संभवतः किसी फिल्म या मनोरंजन उत्पाद का, या इससे भी बुरा, कृत्रिम बुद्धिमत्ता द्वारा बनाई गई एक छवि है जो पाठक की भावनाओं को भ्रमित करती है, जिससे वे दया महसूस करें और कानून प्रवर्तन की प्रामाणिकता पर संदेह करें।

इससे भी अधिक चिंताजनक बात यह है कि इस तरह की सामग्री का प्रसार न केवल समाज की सुरक्षा और व्यवस्था की रक्षा के लिए दिन-रात कार्यरत जन पुलिस बल की प्रतिष्ठा और छवि को नुकसान पहुंचाता है, बल्कि यह मनोवैज्ञानिक युद्ध का एक परिष्कृत रूप भी है। जब भ्रामक छवियों से अधिकारियों पर जनता का विश्वास कम हो जाता है, तो राष्ट्रीय एकता को विभाजित करने के शत्रुतापूर्ण बलों के गुप्त इरादे धीरे-धीरे साकार हो जाएंगे।

इसलिए, प्रत्येक नागरिक को अपनी सतर्कता बढ़ानी चाहिए, आलोचनात्मक सोच कौशल विकसित करना चाहिए और फर्जी सूचनाओं की पहचान करने की क्षमता विकसित करनी चाहिए, तथा इंटरनेट पर हानिकारक सूचनाओं की वर्तमान लहर के सामने वैचारिक आधार की रक्षा करने और सामाजिक स्थिरता बनाए रखने में योगदान देने के लिए दृढ़ संकल्प के साथ झूठी सामग्री की निंदा और खंडन करना चाहिए।

हो ची मिन्ह सिटी में, लगभग एक मिनट का एक वीडियो क्लिप अचानक सोशल मीडिया पर वायरल हो गया, जिसमें पुलिस की वर्दी पहने एक व्यक्ति को एक कार्यालय में एक संदिग्ध को यातायात नियम तोड़ने का जुर्म कबूल करवाने के लिए "दबाव डालते" हुए दिखाया गया है। वीडियो में, पुलिस अधिकारी माने जा रहे व्यक्ति का आक्रामक रवैया दिखता है, वह लगातार चिल्लाता है और अभद्र भाषा का भी प्रयोग करता है, जिससे जनता में आक्रोश फैल गया है।

हालांकि, वीडियो वायरल होने के कुछ ही समय बाद, हो ची मिन्ह सिटी पुलिस ने तुरंत जांच की और पुष्टि की कि यह एक परिष्कृत डीपफेक वीडियो था। उनकी जांच के अनुसार, वीडियो में दिख रहे चेहरों को पुलिस की एक आंतरिक बैठक की रिकॉर्डिंग से लिया गया था, और फिर कुछ शरारती तत्वों ने एआई तकनीक का उपयोग करके उन्हें एक कृत्रिम दृश्य पर चिपका दिया, जिससे दर्शकों को लगा कि यह एक वास्तविक घटना है।
विशेष रूप से, साथ में दी गई ऑडियो में धमकी भरे और अपमानजनक स्वर शामिल हैं जो वास्तव में किसी अधिकारी के वास्तविक शब्द नहीं हैं, बल्कि कृत्रिम एआई (आरआईएम) द्वारा निर्मित आवाजें हैं, जिन्हें दर्शक की भावनाओं को धोखा देने के लिए प्रोग्राम और संपादित किया गया है।

यह घटना डीपफेक तकनीक का इस्तेमाल करके जन पुलिस बल की छवि को विकृत और बदनाम करने का एक प्रमुख उदाहरण है, जिसका इस्तेमाल साइबरस्पेस में प्रतिक्रियावादी और विध्वंसक ताकतें तेजी से कर रही हैं। महत्वपूर्ण बात यह है कि यदि इन फर्जी सूचनाओं का तुरंत पर्दाफाश नहीं किया गया, तो इनके गंभीर परिणाम हो सकते हैं: कानून प्रवर्तन में जनता का विश्वास कम होना, समुदाय में प्रतिरोध उत्पन्न होना और झूठी कहानियों का प्रसार होना। यह फर्जी खबरों का खंडन करने, उनका पता लगाने और उनसे निपटने के लिए संचार क्षमताओं को बढ़ाने की तत्काल आवश्यकता के बारे में एक स्पष्ट चेतावनी है, और प्रत्येक नागरिक से सतर्क रहने और आधिकारिक स्रोतों से अपुष्ट सामग्री को जल्दबाजी में साझा करने या उस पर टिप्पणी करने से बचने का आह्वान करता है।

हाल ही में एक अन्य मामले में, दक्षिण में एक वाहन निरीक्षण केंद्र में अनियमितताओं से निपटने के संबंध में, शत्रुतापूर्ण तत्वों ने एक प्रांतीय पुलिस नेता का फर्जी वीडियो फैलाया, जिसमें वह भ्रष्ट अधिकारियों के बचाव में बोल रहे थे। टेलीग्राम और सोशल मीडिया पर "शक्तिशाली ताकतों द्वारा समर्थित" शीर्षक से प्रसारित यह क्लिप वास्तव में कृत्रिम बुद्धिमत्ता (एआई) द्वारा निर्मित थी और किसी भी प्रेस कॉन्फ्रेंस या आधिकारिक दस्तावेज़ में नहीं पाई गई।

ऑनलाइन एक खतरनाक चलन चुपचाप फैल रहा है: दुर्भावनापूर्ण तत्व धोखाधड़ी और जबरन वसूली के उद्देश्य से नकली वीडियो बनाने के लिए एआई तकनीक का उपयोग कर रहे हैं। हाल ही में, कई लोग इसके शिकार हुए हैं जब उनकी तस्वीरें, विशेष रूप से वकीलों, डॉक्टरों और व्यापारियों जैसे सामाजिक रूप से सम्मानित व्यक्तियों की तस्वीरें, "ऑनलाइन घोटालों में खोए हुए पैसे की वसूली" का विज्ञापन करने वाले वीडियो पर चिपका दी जाती हैं।

इन वीडियो क्लिप्स में, वकीलों की आवाज़ और चेहरे की नकल करने के लिए एआई का इस्तेमाल किया जाता है, जिससे दर्शक धोखेबाजों पर विश्वास कर लेते हैं और आसानी से उन्हें अपनी निजी जानकारी दे देते हैं या पैसे ट्रांसफर कर देते हैं। इससे भी ज़्यादा खतरनाक बात यह है कि कुछ अपराधी डीपफेक तकनीक का इस्तेमाल करके पीड़ितों के चेहरों को सेक्स वीडियो पर चिपका देते हैं और फिर उन्हें उनके जीवनसाथी या सहकर्मियों को भेज देते हैं, ताकि उन्हें धमकाकर या दबाव डालकर चुप रहने के लिए पैसे ट्रांसफर करवा सकें।

मार्च 2025 में एक चौंकाने वाली घटना घटी, जब हनोई में एक पीड़िता को उसकी फर्जी सेक्स वीडियो मिलने के बाद करोड़ों डोंग ट्रांसफर करने के लिए कहा गया। इसी बीच, हो ची मिन्ह सिटी में एक अन्य व्यक्ति को संवेदनशील वीडियो को फैलने से रोकने के लिए 2 अरब डोंग की ब्लैकमेलिंग की गई। सार्वजनिक सुरक्षा मंत्रालय ने जांच शुरू की और इन नेटवर्कों के पीछे कई अंतरराष्ट्रीय आपराधिक समूहों की पहचान की, जो मुख्य रूप से चीन और दक्षिण पूर्व एशिया से थे और अपनी पहचान छिपाने के लिए डिस्पोजेबल सिम कार्ड, ई-वॉलेट और सोशल मीडिया प्लेटफॉर्म का इस्तेमाल कर रहे थे।

यह अब मामूली धोखाधड़ी नहीं रही, बल्कि "उच्च तकनीक से संचालित मनोवैज्ञानिक युद्ध" का एक रूप बन गई है, जो पीड़ितों पर दबाव डालने के लिए मान-सम्मान और सामाजिक संबंधों के डर का गहराई से फायदा उठाती है। सतर्कता और असामान्य जानकारी और व्यवहार को पहचानने के कौशल के बिना, कोई भी इन उच्च तकनीक से संचालित अपराधियों का शिकार बन सकता है। प्रतिरूपण की इस परिष्कृत लहर के सामने, प्रत्येक नागरिक को सतर्क रहने, व्यक्तिगत जानकारी को अंधाधुंध साझा करने से पूरी तरह बचने और अवैध गतिविधियों के खिलाफ आवाज उठाने के लिए तैयार रहने की आवश्यकता है, जिससे वे अपनी और समाज की सुरक्षा में योगदान दे सकें।

डीपफेक के खतरे से निपटने के लिए समुदाय की ओर से एक "डिजिटल कवच" की आवश्यकता है।

प्रसारण, टेलीविजन और इलेक्ट्रॉनिक सूचना विभाग (संस्कृति, खेल और पर्यटन मंत्रालय) के अनुसार, 2024 में वियतनाम के डिजिटल प्लेटफॉर्मों को गलत और विकृत जानकारी वाले 4,000 से अधिक वीडियो हटाने पड़े, जिनमें से अधिकांश डीपफेक और वॉयस क्लोन जैसी कृत्रिम बुद्धिमत्ता (AI) तकनीक का उपयोग करके बनाए गए थे। अकेले युवाओं के बीच लोकप्रिय प्लेटफॉर्म टिकटॉक को ही 1,300 से अधिक डीपफेक क्लिप हटाने के लिए कहा गया था, जो मुख्य रूप से पुलिस बल, सरकार और सामाजिक नीतियों से संबंधित थे।

तकनीकी क्रांति के इस दौर में, कृत्रिम बुद्धिमत्ता अभूतपूर्व संभावनाएं खोल रही है, लेकिन इसके साथ ही अभूतपूर्व खतरे भी पैदा हो रहे हैं, खासकर विकृत सामग्री से बने डीपफेक उत्पाद जो सरकारी एजेंसियों की प्रतिष्ठा को नुकसान पहुंचाते हैं। एमआईसीआरआई मीडिया रिसर्च इंस्टीट्यूट द्वारा किए गए एक सर्वेक्षण से पता चलता है कि वियतनाम में 62% सोशल मीडिया उपयोगकर्ता मुख्यधारा के मीडिया या अधिकारियों की चेतावनियों के बिना वास्तविक और नकली जानकारी में अंतर नहीं कर पाते हैं। यह एक ऐसा "संज्ञानात्मक अंतर" है जिसका दुर्भावनापूर्ण ताकतें गलत सूचना फैलाने और सामाजिक मनोविज्ञान को बाधित करने के लिए जमकर फायदा उठा रही हैं।

टोंग वान टी. पुलिस स्टेशन में।

अपराध विज्ञान विशेषज्ञ, मेजर जनरल, एसोसिएट प्रोफेसर और डॉक्टर डो कान्ह थिन के अनुसार, नेताओं का रूप धारण करने वाले फर्जी वीडियो बनाने, झूठे बयान संपादित करने या पुलिस बल की पेशेवर कार्रवाइयों को विकृत करने के लिए एआई का उपयोग करना एक नई लेकिन विशेष रूप से खतरनाक रणनीति है। मेजर जनरल डो कान्ह थिन ने कहा, "डीपफेक केवल एक मनोरंजन उत्पाद नहीं है, बल्कि आधुनिक सूचना युद्ध का एक रूप है, जो विश्वास को कमजोर करने, सामाजिक अस्थिरता पैदा करने में सक्षम है और इसे नियंत्रित करना बहुत मुश्किल है।"

वास्तव में, कृत्रिम बुद्धिमत्ता से प्रेरित वीडियो हानिरहित नहीं होते; वे अक्सर उल्लंघनों से निपटने, अपराधों की जांच करने और भ्रष्टाचार से लड़ने जैसे संवेदनशील विषयों को निशाना बनाते हैं, जिससे जनता में भ्रम और कानून प्रवर्तन एजेंसियों पर अविश्वास पैदा होता है। इससे भी अधिक चिंताजनक बात यह है कि कई वीडियो यूट्यूब और टिकटॉक जैसे प्रमुख प्लेटफार्मों पर साझा किए जाते हैं, और हटाए जाने से पहले लाखों बार देखे जाते हैं, जिससे नकारात्मक प्रभाव पड़ता है।

डिजिटल मीडिया विशेषज्ञ होआंग मिन्ह चेतावनी देते हैं: "सिर्फ एक लापरवाही से किया गया शेयर या लाइक आपको फर्जी खबरों का सहयोगी बना सकता है। हर इंटरनेट उपयोगकर्ता को यह समझना होगा कि डिजिटल स्पेस में की गई कार्रवाइयों के भी वास्तविक परिणाम होते हैं।"

इस संदर्भ में, समुदाय के भीतर से ही एक "डिजिटल सुरक्षा कवच" का निर्माण करना पहले से कहीं अधिक आवश्यक है: यानी सतर्कता, सूचना सुरक्षा और ऑनलाइन वातावरण के प्रति जिम्मेदारी की भावना। तकनीक भले ही तटस्थ हो, लेकिन लोग इसका उपयोग कैसे करते हैं, यह निर्धारित करेगा कि एआई विकास का प्रेरक बल बनेगा या सामाजिक विश्वास के विरुद्ध विनाशकारी शक्ति। वैचारिक दृढ़ता बनाए रखना और पुलिस अधिकारी की छवि की रक्षा करना राष्ट्रीय सुरक्षा की नींव की रक्षा करना है—यह न केवल संबंधित अधिकारियों का बल्कि डिजिटल युग के प्रत्येक नागरिक का कर्तव्य है।

स्रोत: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html