कृत्रिम बुद्धिमत्ता (एआई) के तीव्र विकास ने यह चिंता उत्पन्न कर दी है कि इसका विकास इतनी तेजी से हो रहा है कि मनुष्य इसके प्रभाव को समझ नहीं सकता।
फोटो: एसटी
चैटजीपीटी जैसे टूल्स के आने के बाद सामान्य एआई का इस्तेमाल काफ़ी बढ़ गया है। इन टूल्स के कई फ़ायदे तो हैं, लेकिन इनका दुरुपयोग भी नुकसानदेह हो सकता है।
इस जोखिम का प्रबंधन करने के लिए, संयुक्त राज्य अमेरिका और कई अन्य देशों ने एआई प्रौद्योगिकी विकसित करने में सुरक्षित प्रथाओं के लिए प्रतिबद्धता जताने हेतु सात कंपनियों से समझौते हासिल किए हैं, जिनमें अमेज़ॅन, एंथ्रोपिक, गूगल, इनफ्लेक्शन, मेटा, माइक्रोसॉफ्ट और ओपनएआई शामिल हैं।
व्हाइट हाउस की घोषणा के साथ अपनी शब्दावली भी है जो आम लोगों के लिए अपरिचित हो सकती है, जैसे "रेड टीमिंग" और "वॉटरमार्किंग"। यहाँ एआई से जुड़े सात ऐसे शब्द दिए गए हैं जिन पर ध्यान देना ज़रूरी है।
यंत्र अधिगम
एआई की इस शाखा का उद्देश्य पैटर्न की पहचान करके मशीनों को किसी विशिष्ट कार्य को सटीकता से करने के लिए प्रशिक्षित करना है। फिर मशीन उस डेटा के आधार पर भविष्यवाणियाँ कर सकती है।
गहन शिक्षण
रचनात्मक एआई कार्य अक्सर गहन शिक्षण पर निर्भर करते हैं, जो एक ऐसी विधि है जिसमें तंत्रिका नेटवर्क का उपयोग करके कंप्यूटरों को प्रशिक्षित करना शामिल है, जो मानव मस्तिष्क में न्यूरॉन्स की नकल करने के लिए डिज़ाइन किए गए एल्गोरिदम का एक सेट है, जो पाठ, चित्र या अन्य सामग्री उत्पन्न करने के लिए पैटर्न के बीच जटिल संबंध बनाता है।
क्योंकि डीप लर्निंग मॉडल में न्यूरॉन्स की कई परतें होती हैं, इसलिए वे पारंपरिक मशीन लर्निंग की तुलना में अधिक जटिल पैटर्न सीख सकते हैं।
वृहद भाषा मॉडल
एक बड़े भाषा मॉडल, या एलएलएम, को भारी मात्रा में डेटा पर प्रशिक्षित किया जाता है और इसका उद्देश्य भाषा को मॉडल करना या अनुक्रम में अगले शब्द की भविष्यवाणी करना होता है। चैटजीपीटी और गूगल बार्ड जैसे बड़े भाषा मॉडल, सारांशीकरण, अनुवाद और वार्तालाप जैसे कार्यों के लिए उपयोग किए जा सकते हैं।
एल्गोरिथ्म
निर्देशों या नियमों का एक समूह जो मशीनों को पूर्वानुमान लगाने, समस्याओं को हल करने या कार्य पूरा करने में सक्षम बनाता है। एल्गोरिदम खरीदारी संबंधी सुझाव दे सकते हैं और धोखाधड़ी का पता लगाने और ग्राहक सेवा चैट कार्यों में मदद कर सकते हैं।
पक्षपात
चूँकि एआई को बड़े डेटासेट पर प्रशिक्षित किया जाता है, इसलिए यह डेटा में अभद्र भाषा जैसी हानिकारक जानकारी शामिल कर सकता है। एआई को प्रशिक्षित करने के लिए इस्तेमाल किए गए डेटासेट में नस्लवाद और लिंगभेद भी दिखाई दे सकते हैं, जिससे भ्रामक सामग्री उत्पन्न हो सकती है।
एआई कम्पनियां इस बात पर गहराई से विचार करने के लिए सहमत हो गई हैं कि एआई प्रणालियों में हानिकारक पूर्वाग्रह और भेदभाव से कैसे बचा जाए।
रेड टीमिंग
कंपनियों ने व्हाइट हाउस से जो प्रतिबद्धताएं की हैं, उनमें से एक है एआई मॉडल और प्रणालियों के अंदर और बाहर "रेड टीमिंग" का संचालन करना।
"रेड टीमिंग" में संभावित कमज़ोरियों को उजागर करने के लिए एक मॉडल का परीक्षण शामिल है। यह शब्द एक सैन्य अभ्यास से आया है जहाँ एक टीम रणनीति बनाने के लिए हमलावर की गतिविधियों का अनुकरण करती है।
इस पद्धति का उपयोग माइक्रोसॉफ्ट और गूगल जैसी कंपनियों के क्लाउड कंप्यूटिंग प्लेटफॉर्म जैसे सिस्टम में सुरक्षा कमजोरियों के परीक्षण के लिए व्यापक रूप से किया जाता है।
वॉटरमार्किंग
वॉटरमार्क यह बताने का एक तरीका है कि कोई ऑडियो या वीडियो AI द्वारा बनाया गया है या नहीं। सत्यापन के लिए जाँचे जाने वाले तथ्यों में यह जानकारी शामिल हो सकती है कि इसे किसने बनाया, साथ ही इसे कैसे और कब बनाया या संपादित किया गया।
उदाहरण के लिए, माइक्रोसॉफ्ट ने अपने एआई टूल्स से बनी तस्वीरों पर वॉटरमार्क लगाने का वादा किया है। कंपनियों ने व्हाइट हाउस से भी वादा किया है कि वे तस्वीरों पर "वॉटरमार्क" लगाएँगी या उनकी उत्पत्ति दर्ज करेंगी... ताकि उन्हें एआई द्वारा निर्मित के रूप में पहचाना जा सके।
बौद्धिक संपदा उल्लंघनों पर नज़र रखने के लिए भी वॉटरमार्क का इस्तेमाल आम तौर पर किया जाता है। एआई-जनरेटेड इमेज के वॉटरमार्क अगोचर शोर के रूप में दिखाई दे सकते हैं, जैसे कि हर सातवें पिक्सेल में थोड़ा सा बदलाव।
हालाँकि, AI-जनरेटेड टेक्स्ट को वॉटरमार्क करना अधिक जटिल हो सकता है और इसमें वर्ड टेम्पलेट में बदलाव करना शामिल हो सकता है, ताकि इसे AI-जनरेटेड सामग्री के रूप में पहचाना जा सके।
होआंग टोन (पोयंटर के अनुसार)
[विज्ञापन_2]
स्रोत
टिप्पणी (0)