ऑस्ट्रेलिया का नया AI टूल हानिकारक डीपफेक छवियों से लड़ता है

ऑस्ट्रेलिया ने सिल्वरर नामक एक एआई उपकरण विकसित किया है जो डीपफेक को रोकने और व्यक्तिगत डेटा की सुरक्षा करने में मदद करता है, जो साइबर अपराध से लड़ने के लिए परीक्षण चरण में है।

सिडनी में वीएनए संवाददाता के अनुसार, मोनाश विश्वविद्यालय और ऑस्ट्रेलियाई संघीय पुलिस (एएफपी) मिलकर एक नया और क्रांतिकारी आर्टिफिशियल इंटेलिजेंस (एआई) उपकरण विकसित कर रहे हैं, जिससे अपराधियों को एआई का उपयोग करके हानिकारक डीपफेक चित्र और बाल दुर्व्यवहार सामग्री बनाने से रोका जा सकेगा।

सिल्वरर नामक यह उपकरण, कानून प्रवर्तन और सामुदायिक सुरक्षा के लिए एआई लैब (एआईएलईसीएस) का एक उत्पाद है, जो एएफपी और मोनाश विश्वविद्यालय के बीच एक रणनीतिक अनुसंधान सहयोग है जो जटिल कानून प्रवर्तन और सुरक्षा चुनौतियों में एआई का उपयोग करता है। वर्तमान में अपने पायलट चरण में, यह उपकरण मोनाश विश्वविद्यालय की पीएचडी छात्रा एलिजाबेथ पेरी के नेतृत्व में विकसित किया जा रहा है।

मोनाश विश्वविद्यालय के अनुसार, इस नए टूल में मुख्य तकनीक के रूप में "डेटा पॉइज़निंग" नामक तकनीक का उपयोग किया गया है। इस तकनीक में ऑनलाइन स्रोत डेटा में सूक्ष्म रूप से परिवर्तन करना शामिल है, जिससे एआई और मशीन लर्निंग (एमएल) मॉडल के लिए छवियों या वीडियो का निर्माण, हेरफेर और दुरुपयोग करना काफी कठिन हो जाता है।

चूंकि एआई उपकरणों को बड़ी मात्रा में स्रोत डेटा की आवश्यकता होती है, इसलिए डेटा विषाक्तता के कारण मॉडल गलत, विकृत या भ्रष्ट परिणाम उत्पन्न करता है, जिससे अपराधियों द्वारा बनाई गई नकली छवियों या वीडियो का पता लगाना आसान हो जाता है।

पीएचडी छात्र पेरी बताते हैं कि उपयोगकर्ता सोशल मीडिया या इंटरनेट पर अपलोड करने से पहले छवियों को संपादित करने के लिए सिल्वरर का उपयोग कर सकते हैं। यह एआई मॉडल को धोखा देने के लिए पिक्सेल बदल देगा, जिससे उनका आउटपुट विकृत, "विकृतियों" से ढका हुआ, या पूरी तरह से पहचानने योग्य नहीं होगा।

एआईएलईसीएस के सह-निदेशक और डिजिटल फोरेंसिक विशेषज्ञ एसोसिएट प्रोफेसर कैम्पबेल विल्सन ने कहा कि ओपन सोर्स प्रौद्योगिकी का उपयोग करके नकली और दुर्भावनापूर्ण छवियों का निर्माण, इसके उपयोग में आसानी के कारण, अधिक गंभीर समस्या बन रही है।

एएफपी ने एआई-जनित बाल दुर्व्यवहार सामग्री में वृद्धि दर्ज की है, क्योंकि अपराधी बड़ी मात्रा में नकली पोर्नोग्राफी का उत्पादन करने और उसे ऑनलाइन साझा करने के लिए इस तकनीक का दुरुपयोग कर रहे हैं।

मोनाश विश्वविद्यालय ने कहा कि सिल्वरर परियोजना का समग्र लक्ष्य उन ऑस्ट्रेलियाई लोगों के लिए उपयोग में आसान तकनीक विकसित करना है जो सोशल मीडिया पर अपने व्यक्तिगत डेटा की सुरक्षा करना चाहते हैं। इस उपकरण के एक पायलट संस्करण पर वर्तमान में एएफपी के आंतरिक उपयोग के लिए विचार किया जा रहा है।

(टीटीएक्सवीएन/वियतनाम+)

स्रोत: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp