AI से बनाई गई आपत्तिजनक ऑडियो स्टोरी: स्पैम सामग्री को लाखों बार देखा गया

(डैन ट्राई) - एआई का उपयोग करके सामग्री और छवियों के साथ वीडियो बनाना जितना सरल है, उतना ही अधिक "इंटरनेट कचरा" पैदा होता है।

ऑडियो कहानियां, जो किताबें पढ़ने का एक सुविधाजनक तरीका है, यूट्यूब चैनलों के लिए उपजाऊ जमीन बनती जा रही है, जो दर्शकों को आकर्षित करने के लिए सनसनीखेज, हिंसक सामग्री बनाने के लिए एआई प्रौद्योगिकी का लाभ उठाते हैं, जिसके परिणाम चिंताजनक होते हैं।

यूट्यूब पर ऑडियो कहानियां कोई नई अवधारणा नहीं है, यह बड़ी संख्या में व्यस्त उपयोगकर्ताओं को आकर्षित करती है जो पढ़ने में समय खर्च किए बिना सामग्री तक पहुंचना चाहते हैं।

वास्तविक मानव आवाजों या एआई की सहायता से साहित्यिक कृतियों, रोमांस, जासूसी कहानियों, डरावनी कहानियों... को विभिन्न लम्बाई के वीडियो में परिवर्तित किया जाता है।

हालाँकि, कई यूट्यूब चैनलों ने एआई तकनीक के तेज़ी से विकास का दुरुपयोग किया है। वे सनसनीखेज और हिंसक सामग्री वाले कथात्मक वीडियो की एक श्रृंखला बनाते हैं, जिससे दर्शकों की जिज्ञासा बढ़ती है और उनकी रुचि बढ़ती है।

घिनौनी, खौफनाक ऑडियो कहानी को लाखों बार देखा गया

ढेर सारे AI सॉफ़्टवेयर और वेबसाइटों की बदौलत कंटेंट और इमेज बनाना पहले से कहीं ज़्यादा आसान हो गया है। बस कुछ आसान कमांड्स से, यूज़र्स अपनी ज़रूरत के अनुसार कंटेंट और इमेज बना सकते हैं।

इसका लाभ उठाते हुए, कई यूट्यूब चैनलों ने ऑडियो कहानियां पोस्ट की हैं जिनकी सामग्री, चित्र और आवाज सभी एआई के उत्पाद हैं।

पिन किए गए टिप्पणी चैनल ने हिंसक सामग्री की काल्पनिक प्रकृति की पुष्टि की है, लेकिन यह स्पष्ट नहीं है कि उसने “सकारात्मक संदेश देना” (स्क्रीनशॉट) शीर्षक क्यों जोड़ा।

"अमीर महिला की ऑडियो स्टोरी" वाक्यांश को खोजने पर समान सामग्री और छवियों वाले वीडियो की एक श्रृंखला दिखाई देती है, जो सभी AI द्वारा उत्पन्न की गई है।

अलग-अलग लंबाई के बावजूद, इन सभी वीडियो में सनसनीखेज, हिंसक कथानक हैं, जिन्हें एआई द्वारा रचा और पढ़ा गया है।

दिलचस्प विषय-वस्तु और जासूसी आवाज के साथ, ये वीडियो शीघ्र ही हजारों, यहां तक ​​कि लाखों लोगों द्वारा देखे जाने और बातचीत को आकर्षित करते हैं।

हर दिन, ये चैनल 2-3 वीडियो पोस्ट करते हैं, जिससे बड़ी संख्या में दर्शक और सब्सक्राइबर आकर्षित होते हैं।

आभासी सामग्री, वास्तविक प्रभाव

यह उल्लेखनीय है कि कई बकवास कहानियां, भले ही चैनल स्वयं स्वीकार करते हैं कि वे "असत्य" हैं और "सभी विवरण काल्पनिक हैं", फिर भी दर्शकों को आकर्षित करती हैं।

वास्तव में, बहुत से लोग, विशेषकर बुजुर्ग या प्रौद्योगिकी के बारे में कम जानकारी रखने वाले लोग, मानते हैं कि ये कहानियाँ सच हैं।

उपयोगकर्ताओं ने थ्रेड्स पर एआई-जनरेटेड ऑडियो स्टोरी वीडियो पर चिंता व्यक्त की, जिससे माता-पिता और बुजुर्गों के साथ गलतफहमी पैदा हुई (फोटो: स्क्रीनशॉट)।

सामग्री, खासकर कृत्रिम बुद्धिमत्ता (AI) द्वारा निर्मित चित्र, अधिकाधिक यथार्थवादी होते जा रहे हैं, जिससे असली और नकली में अंतर करना मुश्किल हो रहा है। रुझानों और चर्चित खबरों का लाभ उठाते हुए, कई YouTube चैनल भी व्यूज़ आकर्षित करने के लिए घटनाओं का "अनुसरण" करते हुए वीडियो बनाते हैं।

यद्यपि एआई कई लाभ लाता है, लेकिन हिंसक और आपत्तिजनक सामग्री वाले आभासी वीडियो का प्रसार गंभीर परिणाम दे रहा है।

ये ऑडियो स्टोरी वीडियो अभी भी हजारों लोगों को आकर्षित करते हैं, और सामग्री जितनी अधिक चौंकाने वाली और हिंसक होती है, उतनी ही अधिक बातचीत होती है।

हालाँकि कई चैनल दावा करते हैं कि उनकी सामग्री काल्पनिक है और "ज़िम्मेदारी से इनकार" करते हैं, लेकिन इसका मतलब यह नहीं है कि यह दर्शकों की धारणाओं और यहाँ तक कि उनके व्यवहार को भी प्रभावित नहीं करती। अस्वीकरण चैनलों के लिए अपने द्वारा फैलाए गए कचरे से "खुद को साफ़" करने का एक तरीका मात्र है।

सवाल यह है कि यदि दर्शक फर्जी खबरों और वास्तविक खबरों में अंतर नहीं कर पाएंगे तो क्या होगा, या जब बच्चे गलती से हिंसक तत्वों वाली सामग्री देख लेंगे तो उन पर क्या प्रभाव पड़ेगा?

प्रौद्योगिकी विश्वविद्यालय (वियतनाम राष्ट्रीय विश्वविद्यालय, हनोई ) के सूचना प्रौद्योगिकी संकाय के व्याख्याता डॉ. गुयेन वान सोन ने इस बात पर जोर दिया: "एआई समुदाय और समाज में कई व्यावहारिक योगदान दे सकता है, लेकिन जब इसका शोषण और गलत उद्देश्यों के लिए उपयोग किया जाता है, तो यह कई गंभीर परिणाम ला सकता है।"

डॉ. गुयेन वान सोन के अनुसार, उपयोगकर्ताओं को एआई के उपयोग और अनुप्रयोग के दौरान अपनी जागरूकता और जिम्मेदारी बढ़ाने की आवश्यकता है (फोटो: चरित्र द्वारा प्रदान किया गया)।

डॉ. सोन ने उपयोगकर्ताओं, विशेषकर युवाओं से, एआई के उपयोग और अनुप्रयोग के दौरान जागरूकता और जिम्मेदारी बढ़ाने का आह्वान किया, जिसका उद्देश्य साइबरस्पेस पर व्याप्त कचरा और आपत्तिजनक उत्पादों को फैलाने के बजाय गुणवत्तापूर्ण, सभ्य उत्पाद बनाना है।

ऑडियो कहानियां सुनने की आदत बुरी नहीं है, लेकिन अनजाने में लोगों को इस आदत और तकनीकी प्रगति का फायदा उठाकर हिंसक और आपत्तिजनक उत्पाद बनाने में मदद करना ऑनलाइन वातावरण को प्रदूषित कर रहा है।

उपयोगकर्ताओं को जानकारी सत्यापित करने तथा स्वयं को "फ़िल्टर" से लैस करने की आवश्यकता है, ताकि वे झूठी जानकारी से गुमराह होने से बच सकें, जिससे सार्वजनिक भ्रम पैदा होता है।

स्रोत: https://dantri.com.vn/cong-nghe/truyen-audio-phan-cam-tao-bang-ai-noi-dung-rac-thu-hut-trieu-view-20250723151755041.htm