फेसबुक के मेटा एआई ने काले कुत्ते को काले व्यक्ति में बदलने पर नाराजगी जताई

[विज्ञापन_1]

दिसंबर के मध्य में, वियतनामी फ़ेसबुक यूज़र्स यह जानकर हैरान रह गए कि मेटा एआई चैटबॉट को मैसेंजर चैट फ्रेमवर्क में एकीकृत कर दिया गया है। मेटा का चैटबॉट लामा 3.2 मॉडल का उपयोग करता है, वियतनामी भाषा को सपोर्ट करता है, जानकारी खोजने, चित्र बनाने और चैट करने की सुविधा देता है।

कुछ देर की बातचीत के बाद, वियतनाम में कई उपयोगकर्ताओं को पता चला कि मेटा एआई में इमेज बनाने में एक गंभीर त्रुटि थी। खासकर, "ब्लैक डॉग" कीवर्ड डालने पर, चैटबॉट एक सांवले रंग के आदमी या घुंघराले बालों वाले लड़के का परिणाम देता था। वियतनामी में "ब्लैक डॉग इमेज" कीवर्ड डालने पर भी मेटा एआई वही परिणाम देता था।

Meta AI trên Facebook gây phẫn nộ vì tạo hình chó đen thành người da màu- Ảnh 1. — मेटा एआई "ब्लैक डॉग" कीवर्ड टाइप करने पर एक काले, घुंघराले बालों वाला व्यक्ति लौटाता है

हालाँकि, जब उपयोगकर्ता ने जवाब दिया कि चैटबॉट गलत था, तो यह एक इंसान है। मेटा एआई ने अन्य चैटबॉट्स की तरह इसे स्वीकार नहीं किया और सही नहीं किया, बदले में फेसबुक के एआई (कृत्रिम बुद्धिमत्ता) ने जवाब दिया: "गलत। 'ब्लैक डॉग' को अक्सर निम्नलिखित अर्थों में समझा जाता है। पहला आलंकारिक अर्थ उदासी, अवसाद या नकारात्मक भावनाओं का प्रतीक है। दूसरा अर्थ ब्रिटिश लोककथाओं में एक प्रतीक है, जो अक्सर शैतान या अपशकुन से जुड़ा होता है।"

मेटा एआई यह भी तर्क देता है कि "ब्लैक डॉग" कीवर्ड का विशिष्ट अर्थ किसी बैंड, संगीत समूह या किसी प्रसिद्ध व्यक्ति का उपनाम हो सकता है। यह किसी ब्रांड या उत्पाद का नाम भी हो सकता है। इसके बाद चैटबॉट उपयोगकर्ता से बेहतर समझ के लिए अधिक संदर्भ या विशिष्ट जानकारी प्रदान करने के लिए कहता है।

कई लोगों का मानना है कि मेटा एआई ने "ब्लैक स्किन" कमांड को ग़लत समझा होगा। जब इसे बदलकर "क्रिएट ब्लैक डॉग" कर दिया गया, तो फ़ेसबुक के एआई ने सही परिणाम दिया।

हालाँकि, जब इसी कमांड को चैटजीपीटी या गूगल के जेमिनी जैसे अन्य लोकप्रिय बड़े भाषा मॉडल में डाला जाता है, तो परिणाम एक काला कुत्ता होता है। "काला फर" या "काली त्वचा" वाक्यांश डालने से अंतिम परिणाम प्रभावित नहीं होता है।

Meta AI trên Facebook gây phẫn nộ vì tạo hình chó đen thành người da màu- Ảnh 2. — बाएं से दाएं "create black dog" कमांड से मेटा एआई, चैटजीपीटी, जेमिनी के परिणाम हैं

यह पहली बार नहीं है जब मेटा के एआई को रेंडरिंग में समस्या हुई है, खासकर जब बात अश्वेत लोगों की हो। इस साल की शुरुआत में, मेटा के इमेजिन इमेज जनरेटर को मिश्रित नस्ल के जोड़ों को ठीक से रेंडर न कर पाने के लिए आलोचना का सामना करना पड़ा था। जब भी किसी अश्वेत पुरुष और श्वेत महिला को बनाने के लिए कहा जाता था, तो एआई का अंतिम परिणाम हमेशा अश्वेत जोड़े ही होते थे।

उस समय, द वर्ज की संपादक मिया सातो ने बताया कि उन्होंने दर्जनों बार "गोरे दोस्त के साथ एशियाई पुरुष" या "गोरे दोस्त के साथ एशियाई महिला" की तस्वीर बनाने की कोशिश की। मेटा के एआई द्वारा लौटाए गए परिणाम हमेशा दो एशियाई लोगों की तस्वीरें ही होती थीं।

विशेषज्ञों के अनुसार, एल्गोरिदम और इनपुट डेटा की सीमाओं के कारण, शुरुआती दौर में एआई चैटबॉट्स का "नस्लवादी" होना आम बात है। हालाँकि, वर्तमान संदर्भ में, एआई जैसे बड़े मॉडलों के साथ, यह एक गंभीर कमी है।

मेटा एआई का 9 अक्टूबर को कई देशों में बड़े पैमाने पर परीक्षण शुरू हुआ और फिर इसे वैश्विक स्तर पर विस्तारित किया गया। नया चैटबॉट फेसबुक, इंस्टाग्राम, व्हाट्सएप और मैसेंजर जैसे लोकप्रिय ऐप्स में गहराई से एकीकृत है।

मेटा का लक्ष्य 2024 के अंत तक 43 देशों में दर्जनों विभिन्न भाषाओं का समर्थन करते हुए अपनी उपस्थिति दर्ज कराना है। 50 करोड़ मासिक उपयोगकर्ताओं के साथ, मेटा दुनिया में सबसे अधिक उपयोग किए जाने वाले एआई प्लेटफ़ॉर्म में से एक बनना चाहता है।

हालाँकि, मेटा एआई कई गोपनीयता संबंधी चिंताओं का भी कारण बन रहा है। सोशल नेटवर्क पर उपयोगकर्ता एआई को प्रशिक्षित करने के लिए पोस्ट का उपयोग करने वाले सोशल नेटवर्क का विरोध करने के लिए "बाय मेटा एआई" अभियान चला रहे हैं। जेम्स मैकएवॉय और टॉम ब्रैडी जैसे कई प्रसिद्ध खेल सितारों और अभिनेताओं ने भी इस अभियान का समर्थन किया है।

इस बीच, यूके में, जो उपयोगकर्ता मेटा को एआई मॉडल को प्रशिक्षित करने के लिए फेसबुक और इंस्टाग्राम पोस्ट का उपयोग करने से रोकना चाहते हैं, उन्हें एक आपत्ति फॉर्म भरना होगा।

[विज्ञापन_2]
स्रोत: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm