BGR के अनुसार, एक नई शोध रिपोर्ट ने 'फन-ट्यूनिंग' नामक एक खतरनाक तकनीक का खुलासा किया है, जो Google के जेमिनी सहित अन्य उन्नत AI मॉडल को लक्षित करते हुए अत्यधिक प्रभावी प्रॉम्प्ट इंजेक्शन हमलों को स्वचालित रूप से उत्पन्न करने के लिए AI (कृत्रिम बुद्धिमत्ता) का उपयोग करती है।
यह विधि एआई को 'हैक' करना पहले से कहीं अधिक तेज, सस्ता और आसान बनाती है, जो एआई से जुड़े साइबर सुरक्षा युद्ध में एक नया मोड़ है।
दुर्भावनापूर्ण तत्वों द्वारा कृत्रिम बुद्धिमत्ता का उपयोग करके कृत्रिम बुद्धिमत्ता को नष्ट करने का खतरा।
प्रॉम्प्ट इंजेक्शन एक ऐसी तकनीक है जिसमें दुर्भावनापूर्ण तत्व चुपके से एआई मॉडल के इनपुट डेटा में हानिकारक निर्देश डाल देते हैं (उदाहरण के लिए, सोर्स कोड में टिप्पणियों के माध्यम से, वेब पर छिपे हुए टेक्स्ट के माध्यम से)। इसका उद्देश्य एआई को 'धोखा' देना है, जिससे वह पूर्व-प्रोग्राम किए गए सुरक्षा नियमों को अनदेखा करने के लिए मजबूर हो जाए, जिसके परिणामस्वरूप संवेदनशील डेटा लीक होना, गलत जानकारी देना या अन्य खतरनाक कार्य करना जैसे गंभीर परिणाम हो सकते हैं।
हैकर्स एआई पर हमला करने के लिए एआई का इस्तेमाल कर रहे हैं।
फोटो: लिंक्डइन से लिया गया स्क्रीनशॉट
पहले, इन हमलों को सफलतापूर्वक अंजाम देने के लिए, विशेष रूप से जेमिनी या जीपीटी-4 जैसे 'बंद' मॉडलों पर, अक्सर बहुत अधिक जटिल और समय लेने वाले मैन्युअल परीक्षण की आवश्यकता होती थी।
लेकिन फन-ट्यूनिंग ने परिदृश्य को पूरी तरह से बदल दिया। कई विश्वविद्यालयों के शोधकर्ताओं की एक टीम द्वारा विकसित यह विधि, गूगल द्वारा जेमिनी उपयोगकर्ताओं को मुफ्त में प्रदान किए जाने वाले परिष्कृत एप्लिकेशन प्रोग्रामिंग इंटरफेस (एपीआई) का चतुराई से उपयोग करती है।
ट्यूनिंग प्रक्रिया के दौरान जेमिनी मॉडल की सूक्ष्म प्रतिक्रियाओं (उदाहरण के लिए, डेटा में त्रुटियों पर इसकी प्रतिक्रिया) का विश्लेषण करके, फन-ट्यूनिंग दुर्भावनापूर्ण कथन को छिपाने के लिए सबसे प्रभावी 'प्रीफिक्स' और 'सफिक्स' की स्वचालित रूप से पहचान कर सकता है। इससे एआई द्वारा हमलावर के दुर्भावनापूर्ण इरादे का पालन करने की संभावना काफी बढ़ जाती है।
परीक्षण के परिणामों से पता चलता है कि फन-ट्यूनिंग ने जेमिनी के कुछ संस्करणों पर 82% तक की सफलता दर हासिल की है, जो पारंपरिक आक्रमण विधियों द्वारा प्राप्त 30% से कम की तुलना में कहीं बेहतर आंकड़ा है।
फन-ट्यूनिंग के खतरे को और भी बढ़ा देता है इसका बेहद कम निष्पादन खर्च। चूंकि Google का ट्यूनिंग API मुफ्त में उपलब्ध है, इसलिए एक प्रभावी हमला तैयार करने की गणनात्मक लागत मात्र 10 डॉलर हो सकती है। इसके अलावा, शोधकर्ताओं ने पाया है कि जेमिनी के एक संस्करण के लिए डिज़ाइन किया गया हमला आसानी से अन्य संस्करणों पर भी सफलतापूर्वक लागू किया जा सकता है, जिससे व्यापक हमलों का खतरा बढ़ जाता है।
गूगल ने पुष्टि की है कि वह फन-ट्यूनिंग तकनीक से उत्पन्न खतरे से अवगत है, लेकिन उसने अभी तक इस बारे में कोई टिप्पणी नहीं की है कि क्या वह ट्यूनिंग एपीआई के काम करने के तरीके में कोई बदलाव करेगा। शोध टीम ने इससे बचाव में आने वाली कठिनाइयों की ओर भी इशारा किया: यदि फन-ट्यूनिंग द्वारा उपयोग की जाने वाली जानकारी को ट्यूनिंग प्रक्रिया से हटा दिया जाता है, तो एपीआई वैध डेवलपर्स के लिए कम उपयोगी हो जाएगा। इसके विपरीत, यदि इसमें कोई बदलाव नहीं होता है, तो यह दुर्भावनापूर्ण तत्वों के लिए शोषण का एक जरिया बना रहेगा।
फन-ट्यूनिंग का उदय एक स्पष्ट चेतावनी है, जो यह दर्शाता है कि साइबरस्पेस में टकराव एक नए, अधिक जटिल चरण में प्रवेश कर चुका है। एआई अब न केवल एक लक्ष्य है, बल्कि दुर्भावनापूर्ण तत्वों के हाथों में एक उपकरण और हथियार भी है।
[विज्ञापन_2]
स्रोत: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm
टिप्पणी (0)