यूनेस्को: एआई उपकरण महिलाओं के प्रति पूर्वाग्रह रखते हैं

[विज्ञापन_1]

संयुक्त राष्ट्र शैक्षिक , वैज्ञानिक और सांस्कृतिक संगठन (यूनेस्को) द्वारा 7 मार्च को प्रकाशित एक नए अध्ययन के अनुसार, दुनिया के कई सबसे लोकप्रिय कृत्रिम बुद्धिमत्ता (एआई) उपकरण ओपनएआई और मेटा कंपनियों द्वारा विकसित महिलाओं के खिलाफ पक्षपाती कार्यक्रमों द्वारा संचालित हैं।

एआई की दौड़ में सबसे बड़ी कंपनियाँ अपने एल्गोरिदम, जिन्हें लार्ज लैंग्वेज मॉडल (एलएलएम) कहा जाता है, को प्रशिक्षित करने के लिए इंटरनेट से भारी मात्रा में डेटा का उपयोग कर रही हैं। यूनेस्को ने मेटा के लामा 2 एल्गोरिदम और ओपनएआई के जीपीटी-2 और जीपीटी-3.5 का परीक्षण किया, जिनका इस्तेमाल लोकप्रिय चैट ऐप चैटजीपीटी में किया जाता है। परीक्षणों में पाया गया कि दोनों में महिलाओं के प्रति पूर्वाग्रह के स्पष्ट प्रमाण मिले।

परिणामों से पता चला कि इन उपकरणों द्वारा उत्पन्न महिला नामों से संबंधित पाठ में अक्सर "घर", "परिवार" या "बच्चे" जैसे शब्द होते थे, जबकि पुरुष नामों से संबंधित पाठ में अक्सर "व्यवसाय", "वेतन" या "कैरियर" जैसे शब्द होते थे; पुरुषों को अक्सर शिक्षक, वकील, डॉक्टर जैसे कार्यों के साथ वर्णित किया जाता था; जबकि महिलाओं को अक्सर खाना पकाने, घर के काम आदि जैसे कार्यों से जोड़ा जाता था।

डीओ काओ

[विज्ञापन_2]
स्रोत