छवियों, वीडियो से लेकर AI गानों तक: सोशल नेटवर्क पर AI सामग्री के 'बवंडर' से सावधान रहें

कृत्रिम बुद्धिमत्ता (एआई) का उपयोग ऑनलाइन वाणिज्यिक गतिविधियों में किया जा रहा है, बिक्री से लेकर चैरिटी धोखाधड़ी तक, जिससे नियामकों और व्यवसायों को कृत्रिम सामग्री के युग में जोखिमों की पहचान करने और उन्हें नियंत्रित करने के लिए शीघ्रता से समाधान खोजने के लिए मजबूर होना पड़ रहा है।

एआई द्वारा संपादित और जोड़े गए अधिक से अधिक चित्र और वीडियो सोशल नेटवर्क पर पोस्ट किए जा रहे हैं ताकि लोगों को आकर्षित किया जा सके - फोटो: ड्यूक थीएन

यदि अतीत में, एक नकली फोटो बनाने के लिए, सामान्य उपयोगकर्ताओं को फ़ोटोशॉप विशेषज्ञों को नियुक्त करना पड़ता था, तो आज एआई के साथ, 5 मिनट से भी कम समय में और कुछ बुनियादी कौशल के साथ, नकली तस्वीरों का एक सेट हर जगह दिखाई दे सकता है।

जब AI चित्र, वीडियो, गाने बनाता है... तो यह इतना वास्तविक होता है कि विश्वास करना मुश्किल होता है

प्रतिदिन नियमित रूप से फेसबुक पर सर्फिंग करते हुए, संचार कर्मचारी सुश्री होआन माई (एचसीएमसी) ने कहा कि उपयोगकर्ताओं द्वारा एआई उपकरणों के हस्तक्षेप से अधिक से अधिक सामग्री पोस्ट की जा रही है।

"दोस्तों या ग्रुप के सदस्यों द्वारा पोस्ट की गई कई तस्वीरें इतनी वास्तविक होती हैं कि अगर वे ऐसा न कहें तो मैं यह नहीं बता पाऊँगी कि उनमें एआई का इस्तेमाल हुआ है या नहीं। यहाँ तक कि एनिमेशन, कल्पनाओं से लेकर लघु फिल्मों या वास्तविक जीवन में घटित किसी घटना से संबंधित वीडियो भी एआई उपकरणों द्वारा बनाए जाते हैं, लेकिन मुझे पता नहीं चलता," सुश्री माई ने बताया।

सिर्फ़ तस्वीरें और वीडियो ही नहीं, सोशल नेटवर्क यूट्यूब पर भी "एआई सिंगर्स" द्वारा गाए या संगीतबद्ध कई गाने मौजूद हैं। कई यूज़र्स इस नए अनुभव को लेकर उत्साहित हैं और इसे अपने दोस्तों के साथ सोशल नेटवर्क पर शेयर करने की होड़ में हैं।

"अगर इसकी घोषणा नहीं की जाती, तो मैं यह नहीं बता सकता कि यह एक एआई गायक है या नहीं। वियतनाम के साइबरस्पेस में एआई सामग्री का प्रसार तेज़ी से हो रहा है। मेरे जैसे आम उपयोगकर्ताओं को शायद जल्द ही यह पता नहीं चलेगा कि कौन सी सामग्री वास्तविक लोगों की है, कौन सी सामग्री एआई से है या उसमें एआई का हस्तक्षेप है," खान हा (एचसीएमसी) ने कहा।

हाल ही में, वियतनाम में कई सोशल नेटवर्किंग प्लेटफार्मों पर विकलांग लोगों द्वारा बेचे जा रहे उत्पादों के वीडियो और लाइवस्ट्रीम दिखाए गए हैं, जिससे ऑनलाइन समुदाय अधिक सहानुभूतिपूर्ण और साझा करने वाला बन गया है।

हालाँकि, बाद में ऑनलाइन समुदाय द्वारा एआई का इस्तेमाल करके सामान्य लोगों को विकलांग बनाने के कई मामले उजागर किए गए। इस चाल का उद्देश्य दर्शकों की सहानुभूति का फायदा उठाकर सामान बेचना या धोखाधड़ी करना है।

कई तकनीकी विशेषज्ञों का कहना है कि हाल ही में, सोशल नेटवर्क पर ऐसे अकाउंट्स की संख्या बढ़ रही है जो सहानुभूति बटोरने के लिए विकलांग, बीमार या वंचित लोगों की तस्वीरों वाले सेल्स वीडियो पोस्ट कर रहे हैं। हालाँकि, वास्तविकता यह है कि इनमें से ज़्यादातर सामग्री एआई टूल्स की मदद से बनाई या संपादित की जाती है, जिससे सामान्य लोगों को लाभ या धोखाधड़ी के लिए विकलांग बना दिया जाता है।

दुनिया के अग्रणी बायोमेट्रिक प्रमाणीकरण प्रौद्योगिकी प्रदाता, iProov के एशिया- प्रशांत क्षेत्र के प्रभारी उपाध्यक्ष, श्री मिल्को राडोटिक ने तुओई ट्रे के साथ बातचीत में चेतावनी दी: "हमारा शोध दर्शाता है कि 99.9% प्रतिभागी डीपफेक को पहचान नहीं पाते हैं। आज के उन्नत पहचान उपकरणों को भी कई कठिनाइयों का सामना करना पड़ता है।"

डिजिटल उपयोगकर्ताओं के लिए प्रतिरोध बढ़ाएँ

श्री डांग हू सोन - इंस्टीट्यूट फॉर एप्लाइड रिसर्च एंड ह्यूमन रिसोर्स डेवलपमेंट एआईओवी के उप निदेशक, लोविनबॉट एआई कंपनी के संस्थापक और सीईओ - ने कहा कि जब से Google ने एआई तकनीक नैनो केले, वीओ 3 लॉन्च किया है; बाइटडांस ने सीड्रीम 4 लॉन्च किया है, और उससे पहले ओपनएआई ने जीपीटी इमेज लॉन्च किया है, एआई बाजार बेहद हलचल भरा रहा है और इसके कई परिणाम भी सामने आए हैं।

"तकनीक आज जितनी सुलभ है, उतनी पहले कभी नहीं थी। ये सभी बेहद शक्तिशाली एआई मॉडल हैं जो मूल तस्वीर की तुलना में लगभग 90%, यहाँ तक कि 99% तक "चेहरे की नकल" कर सकते हैं," श्री सोन ने टिप्पणी की।

यदि अतीत में, एक नकली फोटो बनाने के लिए, सामान्य उपयोगकर्ताओं को फोटोशॉप विशेषज्ञों को नियुक्त करना पड़ता था, तो आज एआई के साथ, कुछ बुनियादी कौशल के साथ 5 मिनट से भी कम समय में, नकली तस्वीरों का एक सेट, एक नकली वीडियो जिसे काट दिया गया है और चिपकाया गया है, और जिसमें समाचार जैसे प्रभाव जोड़े गए हैं, चक्करदार गति से फैल सकता है।

"फर्जी खबरें कई बार दोहराई जाती हैं, उच्च घनत्व और आसान पहुंच के साथ, इसलिए बड़ी संख्या में लोग जो हर दिन इसके संपर्क में आते हैं, वे मान लेंगे कि यह सच है। इसलिए, उपरोक्त समस्याओं को सीमित करने के लिए समाधान की आवश्यकता है," श्री सोन ने कहा।

गियान्टी वियतनाम कंपनी के प्रौद्योगिकी निदेशक श्री त्रिन्ह गुयेन थिएन फुओक के अनुसार, एआई-जनित सामग्री को अलग करने में सक्षम होने के लिए, तीन स्तरों की आवश्यकता होती है: (1) उपयोगकर्ता सत्यापन कौशल (स्वर्ण नियमों के साथ); (2) तकनीकी उपकरण जैसे सामग्री क्रेडेंशियल्स (सी2पीए), वॉटरमार्किंग पहचान चिह्न (सिंथआईडी, ऑडियोसील) और डीपफेक डिटेक्टर; (3) संबंधित पक्षों के बीच समन्वय प्रक्रिया जैसे: प्लेटफॉर्म, नेटवर्क ऑपरेटर, बैंक...

विशेष रूप से, स्वर्णिम नियम का पालन 30-60 सेकंड के भीतर बहुत शीघ्रता से किया जाना चाहिए, जिसमें शामिल हैं: अजीब लिंक पर क्लिक न करें, और सत्यापन के लिए आधिकारिक ऐप/वेबसाइट पर जाएं; कार्रवाई के लिए बाध्य करने वाले कीवर्ड (ओटीपी/धन हस्तांतरण/तत्काल) का सामना होने पर तुरंत रुक जाएं।

साथ ही, उपयोगकर्ताओं को विश्वास करने से पहले दो स्वतंत्र स्रोतों से पुष्टि करनी चाहिए; दिनांक, समय और संदर्भ की जांच करें (पुरानी खबर को नए के रूप में प्रच्छन्न करें); स्वयं मिले आधिकारिक नंबर पर कॉल करें, दूसरों द्वारा दिए गए नंबर का उपयोग न करें; छवियों और वीडियो के साथ, उपयोगकर्ता संबंधित परिणामों के लिए वापस खोज कर सकते हैं...

कई विशेषज्ञों का मानना ​​है कि कृत्रिम बुद्धिमत्ता (एआई) द्वारा बनाई गई नकली सामग्री की लहर से निपटने का सबसे बुनियादी उपाय जन जागरूकता बढ़ाना है। केवल तकनीकी उपायों पर ध्यान केंद्रित करने के बजाय, लोगों को जानकारी लेने की अपनी आदतों को बदलने में मदद करने के लिए प्रशिक्षण कार्यक्रम, प्रतियोगिताएँ या वास्तविक जीवन की परिस्थितियों का अनुकरण करना आवश्यक है।

युवाओं, खासकर छात्रों के लिए, ऑनलाइन प्रतियोगिताओं, मीडिया अभियानों और मशहूर हस्तियों या केओएल के साथ मिलकर काम करने से स्वाभाविक आकर्षण पैदा हो सकता है, जिससे उन्हें सीखने और अनुभव प्राप्त करने में मदद मिलेगी और साथ ही वे फर्जी खबरों और फर्जी वीडियो की पहचान करने के कौशल में भी निपुणता हासिल कर सकेंगे। वहीं, खासकर ग्रामीण इलाकों में रहने वाले बुजुर्गों को सचित्र पत्रक, निर्देशात्मक वीडियो या सांस्कृतिक केंद्रों और सामुदायिक गतिविधियों में स्क्रीनिंग जैसे अधिक परिचित और सहज रूपों की आवश्यकता होती है।

"प्रत्येक समूह के लोगों के लिए उपयुक्त दृष्टिकोण, केवल अल्पकालिक गतिविधियों पर ही रुकने के बजाय, एक ठोस, दीर्घकालिक जागरूकता आधार तैयार करने में मदद करेगा। उदाहरण के लिए, कुछ इकाइयों ने ऐसे एक्सटेंशन विकसित किए हैं जिन्हें क्रोम ब्राउज़र पर इंस्टॉल किया जा सकता है ताकि वेब या सोशल नेटवर्क पर सर्फिंग करते समय उपयोगकर्ताओं को समाचारों की पुष्टि करने में सहायता मिल सके...", श्री डांग हू सोन ने बताया।

नकली AI का पता लगाने के लिए AI का उपयोग करना

हाल ही में, हॉनर फोन कंपनी ने अपने नए लॉन्च किए गए फोन में एआई डीपफेक डिटेक्शन फीचर को शामिल किया है। यह फीचर मैसेंजर, ज़ालो, वाइबर या गूगल मीट जैसे ऐप्स पर ही 3 सेकंड में तस्वीरों और आवाज़ों का विश्लेषण करके फेक के बारे में चेतावनी दे सकता है, और उपयोगकर्ताओं को हाई-टेक स्कैम से बचाने के लिए एक "डिजिटल शील्ड" बन जाता है।

इससे पहले, सितंबर 2025 में, MoMo ने iProov के साथ अपने सहयोग की घोषणा की थी, ताकि डायनामिक लाइवनेस तकनीक को तैनात किया जा सके, ताकि यह सत्यापित करने में मदद मिल सके कि उपयोगकर्ता वास्तविक हैं, उनके पास सही पहचान है और वे लेनदेन के समय मौजूद हैं, जिससे डीपफेक, नकली वीडियो या छवियों का उपयोग करके धोखाधड़ी को रोका जा सके।

वित्त जैसे उच्च जोखिम वाले क्षेत्रों में, धोखाधड़ी को रोकने, अनधिकृत पहुंच को रोकने और प्लेटफॉर्म में उपयोगकर्ता का विश्वास बनाए रखने के लिए सुरक्षा का यह स्तर महत्वपूर्ण है।

विषय पर वापस जाएँ

गुण

स्रोत: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm