कृत्रिम बुद्धिमत्ता के युग में आप जो देखते और सुनते हैं, वह जरूरी नहीं कि सच हो।

साइबर सुरक्षा विशेषज्ञों ने चेतावनी दी है कि एआई और डीपफेक तकनीक घोटालों को और अधिक परिष्कृत बना रही है, क्योंकि वे उपयोगकर्ताओं को धोखा देने के लिए आसानी से आवाजों और चेहरों की नकल कर सकते हैं।

"जो आप अपनी आँखों से देखते हैं, वह हमेशा सच नहीं होता, और जो आप किसी की आवाज़ में सुनते हैं, वह भी हमेशा सच नहीं होता। स्थिति जितनी गंभीर होती है, हमें उतनी ही अधिक पुष्टि और जाँच की आवश्यकता होती है," साइबर सुरक्षा विशेषज्ञ न्गो मिन्ह हिएउ (हिएउ पीसी) ने 12 मई को "एआई युग में वित्त में डिजिटल विश्वास का निर्माण" विषय पर आयोजित डिजिटल ट्रस्ट इन फाइनेंस 2026 फोरम में यह बात कही।

साइबर सुरक्षा विशेषज्ञ न्गो मिन्ह हिएउ (हिएउ पीसी) ने फोरम में भाषण दिया।

विशेषज्ञ न्गो मिन्ह हिएउ के अनुसार, एआई और डीपफेक के तेजी से विकास के कारण ऑनलाइन घोटाले और भी अधिक परिष्कृत होते जा रहे हैं, क्योंकि साइबर अपराधी पीड़ितों को बरगलाने के लिए चेहरे, आवाज, भाव और यहां तक ​​कि पृष्ठभूमि को भी नकली बना सकते हैं।

उन्होंने कहा, "पहले हम जो देखते और सुनते थे उसे असली मानते थे, इसलिए तुरंत उस पर विश्वास कर लेते थे। लेकिन अब एआई चेहरे, आवाज और हाव-भाव से लेकर हर चीज की नकल कर सकता है।" उन्होंने आगे कहा कि डीपफेक से सबसे बड़ा नुकसान सिर्फ पैसों का नहीं, बल्कि उपयोगकर्ताओं के भरोसे का भी नुकसान है।

उन्होंने आगे कहा , "जब अपराधी मनोवैज्ञानिक कारकों और मान्यताओं का फायदा उठाते हैं, तो वे पीड़ितों को धोखाधड़ी वाले निवेश प्लेटफार्मों में फंसा सकते हैं या उनकी संपत्ति पर कब्जा कर सकते हैं।"

डीपफेक तक पहुंचना आसान है, लेकिन उनका पता लगाना मुश्किल है।

साइबर सुरक्षा विशेषज्ञ न्गो मिन्ह हिएउ के अनुसार, डीपफेक तकनीक अब बहुत आसानी से उपलब्ध है। कई ओपन-सोर्स टूल या सस्ते सर्विस साइबर अपराधियों को सिर्फ एक पोर्ट्रेट फोटो से नकली वीडियो बनाने की सुविधा देते हैं।

उन्होंने कहा, "सिर्फ एक तस्वीर से आप चेहरे बदल सकते हैं, नकली आवाजें निकाल सकते हैं और फेसटाइम, ज़ालो या व्हाट्सएप के जरिए कॉल कर सकते हैं।"

इस मंच पर, श्री हियू ने एक डीपफेक सॉफ़्टवेयर का प्रदर्शन किया जो वीडियो कॉल के दौरान वास्तविक समय में चेहरे बदलने में सक्षम है। इस तकनीक का दुरुपयोग कई लोग सरकारी अधिकारियों, रिश्तेदारों या "राजकुमारों" का रूप धारण करके लोगों से प्रेम और धन की ठगी करने के लिए कर रहे हैं।

उन्होंने उपयोगकर्ताओं को यह चेतावनी भी दी कि वे सोशल मीडिया पर बहुत अधिक व्यक्तिगत डेटा उजागर कर रहे हैं: "हम प्रतिदिन सोशल मीडिया पर चित्र, वीडियो और वॉयस रिकॉर्डिंग पोस्ट करते हैं। कई लोग तो खुद पोस्ट भी नहीं करते, बल्कि उनके दोस्त उनके लिए पोस्ट कर देते हैं। इस डेटा को विभिन्न स्रोतों से एकत्र करके डीपफेक बनाए जा सकते हैं।"

विशेषज्ञ ने यह भी बताया कि माता-पिता को सोशल मीडिया पर अपने बच्चों की तस्वीरें पोस्ट करते समय सतर्क रहने की जरूरत है, क्योंकि साइबर अपराधी इस डेटा का फायदा उठाकर ब्लैकमेल या "ऑनलाइन अपहरण" कर सकते हैं।

श्री न्गो मिन्ह हिएउ के अनुसार, डीपफेक तकनीक का सबसे खतरनाक पहलू लोगों के "विश्वास की भावना" को खत्म करने की इसकी क्षमता है।

उन्होंने कहा, "वीडियो कॉल हमेशा टेक्स्ट मैसेज की तुलना में अधिक विश्वास जगाती हैं। परिचित आवाजें लिखित पाठ की तुलना में अधिक भरोसा पैदा करती हैं। साइबर अपराधी अक्सर पीड़ितों को मनोवैज्ञानिक रूप से प्रभावित करने के लिए पैसे ट्रांसफर करने, ओटीपी कोड या ऐप इंस्टॉल करने जैसी आपातकालीन स्थितियां पैदा करते हैं।"

विशेषज्ञ न्गो मिन्ह हिएउ: सबसे खतरनाक पहलू यह है कि डीपफेक लोगों के भरोसे की भावना को खत्म कर सकते हैं।

हालांकि डीपफेक का पता लगाना अब काफी मुश्किल हो गया है, फिर भी कुछ असामान्य संकेत मौजूद हैं जैसे कि मुंह के आकार का बेमेल होना, अप्राकृतिक रोशनी, नीरस भाषण या विकृत दांत।

विशेषज्ञ हियू ने कहा, "डीपफेक वीडियो में त्वचा का रंग अक्सर बहुत चिकना और अप्राकृतिक होता है।" हालांकि, उनका मानना ​​है कि उपयोगकर्ताओं को केवल वीडियो के असली या नकली होने का पता लगाने पर ही ध्यान नहीं देना चाहिए, बल्कि यह भी सवाल करना चाहिए कि कॉल में किया गया अनुरोध उचित है या नहीं।

मुफ्त एआई टूल्स के कारण डेटा लीक।

इस मंच पर, विशेषज्ञ न्गो मिन्ह हिएउ ने चेतावनी दी कि यदि उपयोगकर्ताओं में अपनी व्यक्तिगत जानकारी की सुरक्षा करने का कौशल नहीं है, तो एआई चैटबॉट धीरे-धीरे हैकर्स के लिए एक नया लक्ष्य बन रहे हैं।

उन्होंने तर्क दिया कि एआई अब काम, सीखने और अनुसंधान में महत्वपूर्ण भूमिका निभाता है। हालांकि, कई लोग निजी तस्वीरें, पारिवारिक जानकारी, कार्य संबंधी दस्तावेज या व्यावसायिक डेटा जैसी बड़ी मात्रा में व्यक्तिगत जानकारी चैटबॉट पर अपलोड करने की आदत रखते हैं, बिना इसके दुरुपयोग के जोखिम की आशंका जताए।

इसके अलावा, अधिकांश उपयोगकर्ताओं ने एआई प्लेटफॉर्म के उपयोग की शर्तों को लगभग कभी नहीं पढ़ा है, जबकि कई मुफ्त उपकरण मॉडल को प्रशिक्षित करने या अन्य उद्देश्यों के लिए डेटा एकत्र कर सकते हैं।

अज्ञात स्रोतों से आने वाले कई मुफ्त एआई अनुप्रयोगों के उभरने से जोखिम बढ़ रहे हैं, जो उपयोगकर्ताओं को चित्र बनाने, चेहरों को संपादित करने या वास्तविक तस्वीरों को कार्टून पात्रों में बदलने की अनुमति देते हैं। श्री हियू के अनुसार, यह एक प्रकार का हेरफेर है जो उपयोगकर्ताओं को स्वेच्छा से तीसरे पक्ष को बायोमेट्रिक डेटा प्रदान करने के लिए प्रोत्साहित करता है।

सुरक्षा की कमी वाले एआई चैटबॉट का उपयोग करने पर उपयोगकर्ताओं को व्यक्तिगत डेटा लीक होने का खतरा रहता है। (उदाहरण के लिए चित्र)

एआई का अधिक सुरक्षित रूप से उपयोग करने के लिए, विशेषज्ञ सलाह देते हैं कि उपयोगकर्ता संवेदनशील जानकारी, व्यक्तिगत दस्तावेज़ या आंतरिक व्यावसायिक डेटा को एआई चैटबॉट पर अपलोड करने से बचें, विशेष रूप से उन प्लेटफार्मों पर जिनके संचालक अज्ञात हैं।

उपयोगकर्ताओं को अस्थायी चैट मोड, बातचीत के इतिहास को स्वचालित रूप से हटाने जैसी सुरक्षा सुविधाओं को सक्षम करना चाहिए और उन विकल्पों को अक्षम करना चाहिए जो सिस्टम को AI को प्रशिक्षित करने के लिए डेटा का उपयोग करने की अनुमति देते हैं। खाते के दुरुपयोग के जोखिम को कम करने के लिए दो-कारक प्रमाणीकरण भी सक्षम किया जाना चाहिए।

विशेषज्ञ न्गो मिन्ह हिएउ के अनुसार, यदि हैकर्स किसी व्यक्तिगत एआई चैटबॉट खाते पर नियंत्रण हासिल कर लेते हैं, तो वे उपयोगकर्ता द्वारा पहले साझा की गई सभी जानकारी का दुरुपयोग कर सकते हैं।

श्री हियू ने चेतावनी देते हुए कहा, "केवल 'मुझे अपने बारे में वह सब कुछ बताओ जो तुम जानते हो' जैसे एक आदेश से, एआई बड़ी संख्या में उपयोगकर्ताओं के व्यक्तिगत डेटा को पूरी तरह से एकत्रित कर सकता है।"

डिजिटल ट्रस्ट इन फाइनेंस 2026 फोरम का आयोजन डिजिटल ट्रस्ट एलायंस द्वारा राष्ट्रीय साइबर सुरक्षा संघ और मोमो के सहयोग से, सार्वजनिक सुरक्षा मंत्रालय , वियतनाम के स्टेट बैंक और वित्त मंत्रालय के संरक्षण में किया जा रहा है।

इस कार्यक्रम में वित्त, बैंकिंग और प्रौद्योगिकी क्षेत्रों के विशेषज्ञों और व्यवसायों को एक साथ लाया गया ताकि तेजी से विकसित हो रही एआई के संदर्भ में उपयोगकर्ताओं की सुरक्षा और डिजिटल विश्वास बनाने के समाधानों पर चर्चा की जा सके।

फूलों की बारिश

स्रोत: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html