मेटा ने 'काले कुत्ते' के चित्र में एआई की गड़बड़ी के लिए माफ़ी मांगी

[विज्ञापन_1]

दिसंबर के मध्य में, मेटा ने वियतनाम में मैसेंजर एप्लिकेशन में मेटा एआई नामक एक कृत्रिम बुद्धिमत्ता चैटबॉट को एकीकृत करना शुरू किया और इसे सभी उपयोगकर्ताओं के लिए निःशुल्क जारी किया। यह टूल लामा 3.2 भाषा मॉडल का उपयोग करता है, वियतनामी भाषा को सपोर्ट करता है, जानकारी खोजने, चित्र बनाने और चैट करने की सुविधा देता है।

कुछ ही समय बाद, वियतनाम में कई उपयोगकर्ताओं को पता चला कि मेटा एआई की छवि निर्माण प्रक्रिया में एक गंभीर त्रुटि थी। विशेष रूप से, "काला कुत्ता" कीवर्ड डालने पर, चैटबॉट एक सांवले रंग के पुरुष या घुंघराले बालों वाले लड़के का परिणाम देता था। वियतनामी भाषा में "काले कुत्ते की छवि" कीवर्ड डालने पर भी मेटा एआई ऐसे ही परिणाम देता था।

Meta AI vẽ người da màu trong khi câu lệnh đặt ra yêu cầu nội dung khác là một sự cố nghiêm trọng — मेटा एआई द्वारा रंगीन लोगों का चित्रण करना, जबकि कमांड अलग सामग्री मांगता है, एक गंभीर मुद्दा है

31 दिसंबर को, वियतनाम में मेटा के प्रतिनिधि ने आधिकारिक तौर पर इस घटना के बारे में बात की। कंपनी ने उपरोक्त समस्या की पुष्टि की और घोषणा की कि उसने इसे ठीक कर दिया है। इसके साथ ही, मेटा वियतनाम ने इस घटना के लिए माफ़ी मांगी और कहा कि यह समस्या अन्य मौजूदा जनरेटिव एआई सिस्टम के साथ भी हो सकती है।

कंपनी के प्रतिनिधि ने कहा, "हम इस त्रुटि के लिए क्षमा चाहते हैं। मेटा सभी के लिए एक सुरक्षित और अधिक सुखद अनुभव प्रदान करने के लिए अपनी सुविधाओं और एआई मॉडल में सुरक्षा उपाय शामिल कर रहा है। हालाँकि, अन्य जनरेटिव एआई प्रणालियों की तरह, यह मॉडल गलत या आपत्तिजनक सामग्री लौटा सकता है, इसलिए हम उपयोगकर्ताओं को इन उपकरणों का ज़िम्मेदारी से उपयोग करने के लिए प्रोत्साहित करते हैं।"

अनुभव के एक लंबे दौर के बाद, मेटा एआई को भाषा का सहजता से जवाब देने की इसकी क्षमता के लिए कई लोगों द्वारा सराहा गया है। उपयोगकर्ताओं के लिए मुफ़्त में उपलब्ध कराए गए मॉडल की तुलना में, इसकी छवि निर्माण सुविधा भी अच्छी गुणवत्ता प्रदान करती है। इसका एक कारण यह भी हो सकता है कि मेटा, एआई प्रशिक्षण प्रक्रिया में फेसबुक पर पोस्ट की गई सामग्री को इनपुट डेटा के रूप में उपयोग करता है, जिससे यह उपकरण स्वाभाविक रूप से आदेशों को व्यक्त और निष्पादित करने में सक्षम हो पाता है।

हालाँकि, नस्लवाद जैसी घटनाएँ या एआई के लिए निर्धारित मानकों के अनुरूप न होने वाली प्रतिक्रियाएँ अभी भी टालना मुश्किल है। मेटा का कहना है कि वह अपने एआई का परीक्षण कृत्रिम बुद्धिमत्ता के क्षेत्र के विशेषज्ञों के साथ "रेड टीमिंग" परीक्षणों के माध्यम से करता है ताकि अनपेक्षित उपयोगों की पहचान की जा सके, और फिर एक सतत सुधार प्रक्रिया के माध्यम से उनका समाधान किया जा सके।

[विज्ञापन_2]
स्रोत: https://thanhnien.vn/meta-xin-loi-vi-su-co-ai-ve-con-cho-da-den-185241231104908626.htm