राजनीतिक डीपफेक दुर्भावनापूर्ण एआई उपयोगकर्ताओं की सूची में सबसे ऊपर हैं।

[विज्ञापन_1]

गूगल डीपमाइंड के शोध से पता चलता है कि कृत्रिम मानव छवियों, वीडियो और ऑडियो बनाना, एआई चैटबॉट जैसे उपकरणों का उपयोग करके गलत सूचना फैलाने की तुलना में लगभग दोगुना आम है।

विश्लेषण से पता चलता है कि कृत्रिम एआई का दुरुपयोग करने वाले लोगों का सबसे आम लक्ष्य जनमत को प्रभावित करना या उसे आकार देना है। यह उपयोग का 27% हिस्सा है, जिससे इस बात की चिंता बढ़ जाती है कि डीपफेक इस साल वैश्विक चुनावों को कैसे प्रभावित कर सकते हैं।

राजनीतिक डीपफेक अनुसंधान एआई-संचालित मैलवेयर की सूची में सबसे ऊपर है (चित्र 1)। — आम चुनाव से पहले टिकटॉक और इंस्टाग्राम पर ब्रिटिश प्रधानमंत्री ऋषि सुनक की एक फर्जी कलाकृति दिखाई दी। फोटो: एएफपी

हाल के महीनों में, ब्रिटिश प्रधानमंत्री ऋषि सुनक के साथ-साथ अन्य वैश्विक नेताओं के डीपफेक वीडियो टिकटॉक, एक्स और इंस्टाग्राम पर दिखाई दिए हैं। ब्रिटिश मतदाता अगले सप्ताह आम चुनाव में मतदान करेंगे।

ऐसी चिंताएं हैं कि सोशल मीडिया प्लेटफॉर्म द्वारा इस तरह की सामग्री को लेबल करने या हटाने के प्रयासों के बावजूद, दर्शक इसे फर्जी के रूप में नहीं पहचान सकते हैं और इसका प्रसार मतदाताओं को प्रभावित कर सकता है।

एलन ट्यूरिंग इंस्टीट्यूट की रिसर्च एसोसिएट अर्दी जानजेवा ने इस शोध पत्र के निष्कर्षों को "विशेष रूप से प्रासंगिक" बताया और सुझाव दिया कि एआई द्वारा उत्पन्न सार्वजनिक जानकारी "सामाजिक -राजनीतिक वास्तविकता के बारे में हमारी सामान्य समझ को विकृत कर सकती है।"

"भले ही हम मतदान व्यवहार पर डीपफेक के प्रभाव के बारे में निश्चित न हों, लेकिन इस विकृति का अल्पावधि में पता लगाना मुश्किल हो सकता है और यह लोकतंत्र के लिए दीर्घकालिक खतरा पैदा करती है," जंजेवा ने आगे कहा।

गूगल डीपमाइंड में अध्ययन की प्रमुख लेखिका शोधकर्ता नहेमा मार्चल ने कहा, "इन उपकरणों द्वारा किए जा सकने वाले अपेक्षाकृत परिष्कृत साइबर हमलों को लेकर बहुत सारी चिंताएं रही हैं।"

गूगल डीपमाइंड और जिगसॉ के शोधकर्ताओं ने जनवरी 2023 से मार्च 2024 तक एआई के दुरुपयोग के लगभग 200 मामलों का विश्लेषण किया, जो सोशल मीडिया प्लेटफॉर्म एक्स और रेडिट के साथ-साथ ऑनलाइन ब्लॉग और दुरुपयोग पर मीडिया रिपोर्टों से प्राप्त किए गए थे।

इस प्रकार के दुरुपयोग के पीछे दूसरा सबसे आम मकसद पैसा कमाना है, जिसमें वास्तविक लोगों की नग्न तस्वीरें बनाना या कृत्रिम बुद्धिमत्ता का उपयोग करके विभिन्न प्रकार की सामग्री, जैसे कि फर्जी समाचार लेख, तैयार करना शामिल है। अधिकांश मामलों में आसानी से उपलब्ध उपकरणों का उपयोग किया जाता है जिनके लिए "न्यूनतम तकनीकी विशेषज्ञता की आवश्यकता होती है", जिसका अर्थ है कि कई अपराधी कृत्रिम बुद्धिमत्ता का रचनात्मक रूप से दुरुपयोग कर सकते हैं।

न्गोक अन्ह (एफटी के अनुसार)

[विज्ञापन_2]
स्रोत: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html