सोशल मीडिया, एआई और एम्पलीफिकेशन एल्गोरिदम: वह "परमाणु" संयोजन जो दुनिया को उलट-पुलट कर रहा है

(एनबीएंडसीएल) एक छोटी सी घटना, लेकिन सोशल नेटवर्क, एआई और एम्पलीफिकेशन एल्गोरिदम के "परमाणु" संयोजन से, राष्ट्रीय और यहाँ तक कि वैश्विक स्तर पर भी उग्रवाद की लहर पैदा हो सकती है। आभासी दुनिया वास्तविक जीवन को गंभीर रूप से प्रभावित कर रही है और तेज़ी से नियंत्रण से बाहर होती जा रही है।

घृणा भड़काने का एल्गोरिदम

सोशल मीडिया एल्गोरिदम अब सिर्फ़ मनोरंजक सामग्री सुझाने तक ही सीमित नहीं रह गए हैं, बल्कि नफ़रत फैलाने वाले भाषण और चरमपंथी विचारधारा को भी बढ़ावा दे रहे हैं। संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने चेतावनी दी है कि कुछ सोशल मीडिया प्लेटफ़ॉर्म नफ़रत फैलाने वाले भाषणों और भ्रामक सूचनाओं से भरे "विषाक्त डंपिंग ग्राउंड" बन गए हैं, जो चरमपंथ के प्रसार को बढ़ावा दे रहे हैं।

वास्तविक दुनिया के अध्ययन बताते हैं कि कुछ ही दिनों में, सिफ़ारिश वाले एल्गोरिदम समस्या को और बढ़ा सकते हैं। उदाहरण के लिए, ब्रिटेन में एक अध्ययन में पाया गया कि टिकटॉक के एल्गोरिदम ने सिर्फ़ पाँच दिनों में वीडियो में महिला-विरोधी सामग्री की सिफ़ारिशों को 13% से बढ़ाकर 56% कर दिया।

शोधकर्ताओं ने बताया कि एल्गोरिदम स्वचालित रूप से उपयोगकर्ताओं की कमजोरियों (जैसे अकेलेपन की भावना, नियंत्रण की हानि, घृणा) को लक्षित करता है, तथा दर्शकों को आकर्षित करने के लिए अतिवादी सामग्री को आकर्षक "मनोरंजन" में बदल देता है।

अब, सोशल मीडिया पर, छोटी-छोटी जानकारी या बेबुनियाद अफ़वाहें भी आसानी से हिंसा का कारण बन सकती हैं। इसका एक विशिष्ट उदाहरण 2024 में ब्रिटेन में हुए दंगे हैं। साउथपोर्ट में हुए हमले के बाद, संदिग्ध के बारे में झूठी अफ़वाहें - कि वह मुसलमान या शरणार्थी था - सोशल मीडिया पर तेज़ी से फैल गईं, साथ ही मुस्लिम-विरोधी और प्रवासी-विरोधी भाषा का भी इस्तेमाल किया गया। अमेरिकी जनरल अकाउंटिंग ऑफिस (GAO) की 2024 की एक रिपोर्ट के अनुसार, लगभग एक तिहाई इंटरनेट उपयोगकर्ता ऑनलाइन नफ़रत भरे भाषणों के संपर्क में आ चुके हैं।
विशेष रूप से, एशिया, अफ्रीका से लेकर लैटिन अमेरिका तक विभिन्न देशों में जेन जेड या छात्रों द्वारा हाल ही में किए गए गंभीर विरोध प्रदर्शनों, दंगों की श्रृंखला, सभी को सोशल मीडिया प्लेटफार्मों पर शुरू किया गया और उकसाया गया, लगभग एक ही परिदृश्य के साथ: एक मुद्दे का शोषण करना और फिर पूरे समाज को भड़काना।

एआई सॉफ्टवेयर और एम्प्लीफिकेशन एल्गोरिदम आभासी और वास्तविक, दोनों दुनियाओं में हेरफेर कर रहे हैं। चित्रण: नैफ़ेट्स

दुनिया का अधिकांश भाग "भ्रम" में डूबा हुआ है

एआई के बढ़ते चलन के साथ चीज़ें बेकाबू होती जा रही हैं, जिससे लगभग कोई भी अभूतपूर्व पैमाने और गति से "फ़ेक न्यूज़ फ़ैक्टरी" बना सकता है। जीपीटी, क्लाउड या एलएलएएमए जैसे एआई मॉडल पल भर में विकृत लेखों, तस्वीरों और वीडियो की एक श्रृंखला स्वचालित रूप से तैयार कर सकते हैं। एक एआई बॉट सिस्टम एक साथ हज़ारों पोस्ट या टिप्पणियाँ बनाकर उन्हें शेयर कर सकता है, जिससे फ़ेक न्यूज़ और ज़हरीली ख़बरें ऑनलाइन "ट्रेंड" में बदल जाती हैं।

अमेरिका में आरआईटी विश्वविद्यालय द्वारा किए गए एक अध्ययन में कहा गया है: "एआई ने सभी प्रकार की गलत सूचनाओं को तेजी से फैलाना संभव बना दिया है... एआई बॉट इस सामग्री को इंटरनेट पर फैला सकते हैं, क्योंकि उन्हें इसे बनाने के लिए मनुष्यों पर निर्भर रहने की आवश्यकता नहीं है।"

आज, एक एआई टूल के लिए सिर्फ़ कुछ दर्जन डॉलर प्रति माह खर्च करके, कोई भी व्यक्ति आवाज़ों, फ़ोटो और वीडियो से लेकर किसी भी चीज़ की हज़ारों नकली तस्वीरें और वीडियो बना सकता है। इसकी परिष्कृतता और व्यापकता इतनी ज़्यादा है कि आज हम सभी के मन में एक ही सवाल उठता है: क्या सोशल मीडिया पर हम जो देखते हैं, वह एआई द्वारा निर्मित है?

लेकिन विडंबना यह है कि दुनिया का ज़्यादातर हिस्सा हर दिन घंटों उस "आभासी" दुनिया में डूबा रहता है—यहाँ तक कि उसे एक "लत" की तरह भी पसंद करता है। डिजिटल 2025 रिपोर्ट के अनुसार, लगभग 5.2 से 5.6 अरब लोग सोशल नेटवर्क का इस्तेमाल कर रहे हैं, जो वैश्विक आबादी के 64% के बराबर है। और हर व्यक्ति द्वारा सोशल नेटवर्क का इस्तेमाल करने का औसत समय लगभग 2 घंटे 20 मिनट/दिन होता है।

"परमाणु" बमों पर नियंत्रण की आवश्यकता

फर्जी खबरें और भ्रामक सूचनाएं लगातार सस्ती और खतरनाक दर पर तैयार की जा रही हैं, जिससे इंटरनेट पर सामग्री का नियंत्रण लगभग मानवीय नियंत्रण से बाहर हो गया है। किंग्स कॉलेज लंदन (यूके) के तकनीकी विशेषज्ञ लुकाज़ ओलेजनिक ने टिप्पणी की: "हर महीने, [फर्जी खबरें] बनाने वाली फैक्ट्रियां सस्ती, तेज़ और पकड़ने में मुश्किल होती जा रही हैं।"

इस बीच, 2024 में एक RAND अध्ययन ने बताया कि AI द्वारा "इंटरनेट को नकली सोशल मीडिया खातों से भरने" की संभावना स्पष्ट है और बिना किसी मोड़ के लगभग अपरिहार्य है।

परमाणु तकनीक कभी मानव जाति का एक महान आविष्कार थी, और सोशल मीडिया भी। हालाँकि, अगर इसे अनियंत्रित छोड़ दिया जाए, तो यह विनाशकारी साबित हो सकता है। इसी तरह, अगर सोशल मीडिया, एआई और एम्पलीफिकेशन एल्गोरिदम को बेलगाम छोड़ दिया जाए, तो वे साइबरस्पेस में "परमाणु बम" को ट्रिगर कर सकते हैं - और वास्तविक दुनिया को नष्ट करने के लिए पर्याप्त शक्तिशाली हो सकते हैं।

स्रोत: https://congluan.vn/mang-xa-hoi-ai-va-thuat-toan-khuech-dai-su-ket-hop-nguyen-tu-dang-lam-dao-lon-the-gioi-10317608.html