जब भी मैं इंटरनेट पर सर्फिंग करता हूं तो मुझे एआई द्वारा बनाए गए बेवकूफी भरे मजाकिया वीडियो दिखाई देते हैं।

(डैन ट्राई) - वीओ 3 द्वारा निर्मित "विचलित" सामग्री वाले वीडियो सोशल नेटवर्किंग साइटों पर अक्सर दिखाई दे रहे हैं।

जहाँ भी मैं सर्फ करता हूँ, मुझे Veo 3 का बकवास हास्य दिखाई देता है

हाल ही में, सोशल मीडिया यूज़र्स, खासकर टिकटॉक, लगातार Veo 3 टूल द्वारा बनाए गए "कॉमेडी" वीडियो देख रहे हैं। हालाँकि इनमें से ज़्यादातर मनोरंजक हैं, लेकिन कई वीडियो की सामग्री मानक से हटकर विवाद पैदा करने लगी है।

"हर बार जब मैं टिकटॉक खोलता हूं, तो मुझे परिचित रूपांकनों वाले मजेदार वीडियो दिखाई देते हैं, जैसे कि एक बूढ़ी औरत एक सुअर को बेचने के लिए ले जा रही है क्योंकि वह बहुत ज्यादा खाती थी और बहुत ज्यादा सोती थी," हुएन माई (20 वर्षीय) ने बताया।

हुएन माई ने कहा कि उनका टिकटॉक वीओ 3 द्वारा बनाए गए "कॉमेडी" वीडियो से भरा हुआ है (फोटो: स्क्रीनशॉट)।

माई ने बताया कि इसी तरह के वीडियो अधिकाधिक बार प्रदर्शित होने लगे, जिससे उन्हें असहजता महसूस होने लगी और उन्हें लगा कि ये वीडियो केवल "व्यू बैटिंग" के उद्देश्य से हैं, तथा दर्शकों के लिए कोई लाभ नहीं पहुंचा रहे हैं।

माई ने कहा कि उन्हें अक्सर अपने समाचार फ़ीड पर नकारात्मक या आपत्तिजनक वीडियो का सामना करना पड़ता है: "कई टिकटॉक चैनल काल्पनिक स्थितियों से लेकर वास्तविक जीवन की कहानियों तक के वीडियो बनाते हैं, जिनमें केवल व्यूज आकर्षित करने के लिए अश्लील, आपत्तिजनक तत्व और गलत जानकारी शामिल होती है।"

"दर्शकों को आकर्षित करने" के उद्देश्य से आपत्तिजनक और चौंकाने वाली सामग्री की एक श्रृंखला बनाई गई थी (फोटो: स्क्रीनशॉट)।

हुएन माई की कहानी की तरह, 20 वर्षीय होआंग आन्ह ने भी हाल ही में अपनी निराशा व्यक्त की। उन्होंने कहा कि वीओ 3 बहुत ही यथार्थवादी चित्र और सामग्री लाता है, और कई वीडियो दिलचस्प और मनोरंजक सामग्री के साथ बनाए जाते हैं।

लेकिन कुछ समय बाद, उन्होंने देखा कि धीरे-धीरे, सकारात्मक मूल्यों पर ध्यान केंद्रित करने के बजाय, "नकारात्मक" और "दर्शकों को आकर्षित करने के लिए चौंकाने वाले" प्रवृत्ति वाले वीडियो अधिक बार दिखाई देने लगे।

"एक छात्र खड़ा होकर गाली दे रहा था, यह Veo 3 द्वारा बनाए गए उन वीडियो में से एक था जो मैंने हाल ही में देखा था। मुझे आश्चर्य हुआ कि सोशल मीडिया पर इतनी आपत्तिजनक सामग्री क्यों है, खासकर बेहद ज़रूरी परीक्षाओं के दौरान," होआंग आन्ह ने बताया।

अनुचित भाषा और सामग्री वाले कई एआई-जनरेटेड वीडियो सोशल नेटवर्क पर अक्सर दिखाई देते हैं (फोटो: स्क्रीनशॉट)।

अधिक चिंता की बात यह है कि कुछ वीडियो में संवेदनशील, अनैतिक बातें कहने के लिए पात्रों की छवियों और बच्चों की आवाज का उपयोग किया जाता है, लेकिन फिर भी ऑनलाइन समुदाय से हजारों प्रतिक्रियाएं प्राप्त होती हैं।

इसके अलावा, कई Veo 3 उपयोगकर्ता विशुद्ध रूप से मनोरंजक सामग्री की आड़ में विचलित व्यवहार को बढ़ावा देने के लिए भी स्थितियां बनाते हैं।

आमतौर पर, कुछ एप्लिकेशन और वेबसाइट जैसे जुआ और सट्टेबाजी दर्शकों के लिए स्पष्ट रूप से प्रचार वीडियो बनाते हैं, और उन्हें "मनोरंजन वीडियो" की आड़ में गुप्त रूप से खुलेआम फैलाते हैं।

कई परिणामों का द्वार

यह निर्विवाद है कि वीओ 3 जैसे वीडियो-जनरेटिंग एआई उपकरणों का विकास, कई दुकानों और व्यवसायों में सामग्री उत्पादन क्षेत्र में बड़ी क्षमता लाने के साथ-साथ वास्तविक जीवन में आभासी परिणामों की ओर ले जाने वाला एक "द्वार" भी खोलता है।

इससे ऐसे प्रश्न उठते हैं कि “क्या वयस्क या बच्चे एआई-जनरेटेड वीडियो के बीच अंतर कर सकते हैं?” और “ये आपत्तिजनक वीडियो बच्चों की धारणाओं को कैसे प्रभावित करेंगे?”

वियतनाम टेलीविजन का लोगो एआई-जनरेटेड सामग्री में डाला गया (फोटो: स्क्रीनशॉट)।

मनोरंजन के लिए ही नहीं, कई विशेषज्ञों ने एआई द्वारा निर्मित "विचलित" सामग्री के संभावित खतरों के बारे में चेतावनी दी है। ये उत्पाद, जब सोशल नेटवर्क पर तेज़ गति से फैलते हैं, तो बुजुर्गों या बच्चों पर निष्क्रिय रूप से नकारात्मक प्रभाव पड़ सकता है।

सोशल मीडिया प्लेटफॉर्म वर्तमान में सामग्री सेंसरशिप में एक बड़ी चुनौती का सामना कर रहे हैं, क्योंकि कुछ सरल चरणों के साथ, कोई भी विचलित सामग्री के साथ वीडियो की एक श्रृंखला बना सकता है, यहां तक ​​कि आक्रामक, भ्रष्ट या अवैध व्यवहार को बढ़ावा दे सकता है।

यह न केवल सामग्री के संबंध में जोखिम पैदा करता है, बल्कि वियतनाम में Veo 3 तक पहुँचने और उसका उपयोग करने के कई परिणाम भी हो सकते हैं। चूँकि Google ने घरेलू बाज़ार में इस टूल का आधिकारिक रूप से समर्थन नहीं किया है, और साथ ही इसकी उच्च फीस (प्रो अकाउंट के लिए $20/माह, अल्ट्रा अकाउंट के लिए $250/माह) भी है, इसलिए कई तकनीकी उत्साही लोगों ने VPN का उपयोग करके, अस्थायी अकाउंट खरीदकर या फर्जी जानकारी देकर "इस बाधा को पार" करने के तरीके खोज लिए हैं।

उनमें से कई लोग "चिकन हेरिंग" चालों के शिकार हो गए हैं, जैसे सस्ते Veo 3 खातों का विज्ञापन करना, जिससे उन्हें असीमित सुविधाओं के साथ स्वतंत्र रूप से उपयोग करने की अनुमति मिल सके।

सस्ते Veo 3 खाते खरीदने के लिए आमंत्रित करने वाले पोस्ट वियतनामी सोशल नेटवर्क पर बाढ़ की तरह आ रहे हैं (स्क्रीनशॉट)।

कई बुरे लोगों ने धोखाधड़ी के लिए Veo 3 तक पहुंच की आवश्यकता का फायदा उठाया है, खरीदारों से पहले धन हस्तांतरित करने के लिए कहा है और फिर बिना किसी निशान के तुरंत "गायब" हो गए हैं।

गौर करने वाली बात यह है कि कुछ लोग ग्राहक के जीमेल पते का इस्तेमाल करके "सुपर प्रेफरेंशियल" कीमत पर Veo 3 अकाउंट रजिस्टर करने को भी स्वीकार कर लेते हैं। हालाँकि, यह असल में गूगल की नीति में एक खामी का फायदा उठाने जैसा है, जिससे अकाउंट के हमेशा के लिए लॉक होने का खतरा हो सकता है, यानी ईमेल, दस्तावेज़ों और सभी संबंधित व्यक्तिगत डेटा तक पहुँच खोना।

प्रौद्योगिकी में कोई त्रुटि नहीं है

दरअसल, कोई भी AI प्लेटफ़ॉर्म नकारात्मक सामग्री बनाने या अपमानजनक व्यवहार को बढ़ावा देने के लिए डिज़ाइन नहीं किया गया है। सभी परिणाम इस बात पर निर्भर करते हैं कि लोग टूल का उपयोग कैसे करते हैं, यानी उपयोगकर्ता की जागरूकता और ज़िम्मेदारी ही निर्णायक कारक हैं।

प्रौद्योगिकी विश्वविद्यालय (वियतनाम राष्ट्रीय विश्वविद्यालय, हनोई ) के सूचना प्रौद्योगिकी संकाय के व्याख्याता डॉ. गुयेन वान सोन ने कहा: "मैं कृत्रिम बुद्धिमत्ता द्वारा लाए जा रहे सकारात्मक मूल्यों की बहुत सराहना करता हूँ। अगर सही तरीके से इस्तेमाल किया जाए, तो एआई समाज और समुदाय के लिए कई व्यावहारिक योगदान दे सकता है।"

हालाँकि, उनके अनुसार, समस्याएँ तब पैदा होती हैं जब तकनीक अस्वस्थ इरादों वाले लोगों के हाथों में पड़ जाती है। डॉ. सोन ने चेतावनी दी, "ऐसे समय में, एआई नकारात्मक व्यवहारों को बढ़ावा देने और समाज पर पड़ने वाले बुरे प्रभावों को बढ़ाने का एक प्रभावी साधन बन जाता है।"

वहां से, उन्होंने उपयोगकर्ताओं, विशेष रूप से युवा लोगों से, एआई के उपयोग और अनुप्रयोग के दौरान अपनी जागरूकता और जिम्मेदारी को सक्रिय रूप से बढ़ाने का आह्वान किया, जिसका उद्देश्य घटिया, आक्रामक उत्पादों को फैलाने के बजाय गुणवत्तापूर्ण, सभ्य सामग्री बनाना था।

डॉ. गुयेन वान सोन का मानना ​​है कि एआई का उपयोग करते समय नैतिक उल्लंघनों को सीमित करने के लिए शिक्षा महत्वपूर्ण है (फोटो: चरित्र द्वारा प्रदान किया गया)।

इसके अलावा, डॉ. गुयेन वान सोन का यह भी मानना ​​है कि एआई के इस्तेमाल में नैतिक उल्लंघनों को सीमित करने की दीर्घकालिक रणनीतियों में से एक शैक्षिक दृष्टिकोण अपनाना है। उनके अनुसार, जागरूकता बढ़ाना, उपयोगकर्ताओं को व्यक्तिगत ज़िम्मेदारी समझने में मदद करना और तकनीक का इस्तेमाल करते समय एक नैतिक आधार तैयार करना एक महत्वपूर्ण कारक है, जो एक सभ्य डिजिटल समुदाय के निर्माण में योगदान देता है।

केवल "स्पैम" सामग्री के बारे में चेतावनियों तक ही सीमित न रहकर, कई विशेषज्ञों ने बार-बार एआई-जनित उपकरणों से संभावित खतरों का मुद्दा उठाया है, विशेष रूप से वीडियो बनाने की क्षमता, जो बड़े पैमाने पर गलत सूचना प्रसार का स्रोत बन सकती है।

"तकनीकी उद्योग ने डीपफेक के खतरों से निपटने में वर्षों बिताए हैं। लेकिन तेज़ी से उन्नत होते एआई वीडियो टूल्स का उदय एक स्पष्ट चेतावनी है कि एआई और उसके बाद एजीआई द्वारा उत्पन्न सामग्री को नियंत्रित करना और भी कठिन होता जाएगा," कॉन्जेक्चर के सीईओ कॉनर लीही ने चेतावनी दी।

इसी विचार को साझा करते हुए, पीसा सॉल्यूशंस एलएलसी की सीईओ सुश्री गुयेन थी ट्रांग ने तेजी से बेहतर होती एआई के संदर्भ में आलोचनात्मक सोच के महत्व पर जोर दिया।

"हम न केवल एआई के उपयोगकर्ता हैं, बल्कि एआई द्वारा निर्मित सामग्री की एक विस्तृत श्रृंखला के प्राप्तकर्ता भी हैं। उपकरणों का नैतिक रूप से उपयोग करने के अलावा, प्रत्येक व्यक्ति को विभिन्न दृष्टिकोणों से जानकारी को समझने की क्षमता का अभ्यास करने की आवश्यकता है, क्योंकि वर्तमान में एआई द्वारा बनाए गए कई वीडियो प्रामाणिक प्रतीत होते हैं, लेकिन गुप्त रूप से झूठी सामग्री को बढ़ावा देते हैं," सुश्री ट्रांग ने साझा किया।

स्रोत: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm