अधिकाधिक गलत सूचना, क्या हमें एआई से पूछना चाहिए?

ऐसे युग में जहाँ कृत्रिम बुद्धिमत्ता किसी भी प्रश्न का उत्तर कुछ ही सेकंड में दे सकती है, कई लोग कृत्रिम बुद्धिमत्ता को सटीक ज्ञान का स्रोत मान लेते हैं। लेकिन अगर इनपुट की गई जानकारी गलत हो, तो क्या कृत्रिम बुद्धिमत्ता सही उत्तर दे सकती है?

क्या AI से प्राप्त जानकारी हमेशा सही होती है?

ऐसी दुनिया में जहां सूचनाएं मिश्रित हैं, सत्य बताने के लिए केवल एआई पर निर्भर रहना एक जुआ है।

एआई सही और गलत में अंतर नहीं जानता, यह केवल डेटा को प्रतिबिंबित करता है।

टुओई ट्रे ऑनलाइन के अनुसार, कृत्रिम बुद्धिमत्ता को इंटरनेट से एकत्रित विशाल मात्रा में डेटा से प्रशिक्षित किया जाता है, जहाँ रूढ़िवादी ज्ञान और षड्यंत्र के सिद्धांत दोनों मौजूद होते हैं। एआई सच और झूठ में अंतर नहीं करता, यह केवल भाषा के पैटर्न को रिकॉर्ड करता है और जो सीखता है उसके आधार पर प्रतिक्रिया देता है। यदि प्रशिक्षण जानकारी में त्रुटियाँ या पूर्वाग्रह हैं, तो एआई उत्तर में उन्हें भी प्रतिबिंबित करेगा।

मूल डेटा के अलावा, उपयोगकर्ता प्रश्न में जो जानकारी प्रदान करता है, वह भी सटीकता को सीधे प्रभावित करता है। एक गलत लेकिन अच्छी तरह से प्रस्तुत प्रश्न को हल करना आसान होगा। एआई को "विश्वास दिलाएं कि यह सच है" और तदनुसार झूठे उत्तर उत्पन्न करें।

विशेष रूप से, यदि उपयोगकर्ता ऐसी प्रतिक्रिया का अनुरोध करता है जो किसी ऐसी बात की पुष्टि करती है जो सत्य नहीं है, तो AI इसका "अनुपालन" कर सकता है क्योंकि इसका लक्ष्य एक अर्थपूर्ण प्रतिक्रिया उत्पन्न करना है, न कि सत्य को सत्यापित करना।

यही कारण है कि एआई "धाराप्रवाह बोल सकता है, लेकिन स्पष्ट रूप से गलत हो सकता है।" यह इंसानों की तरह सही और गलत का फैसला नहीं करता, बल्कि केवल सबसे संभावित अगले शब्द की भविष्यवाणी करता है। इससे एक ऐसी घटना होती है जिसे शोधकर्ता मतिभ्रम कहते हैं, जब एआई ऐसी झूठी जानकारी बनाता है जो विश्वसनीय लगती है। अगर एआई सही डेटा नहीं ढूंढ पाता है, तो कोई नाम, कोई घटना, यहाँ तक कि कोई वैज्ञानिक अध्ययन भी "गढ़ा" जा सकता है।

गलत सूचना के सागर में एआई कब “सही” है?

यद्यपि यह स्वयं सत्य को पहचानने में सक्षम नहीं है, फिर भी AI कुछ निश्चित परिस्थितियों में सटीक प्रतिक्रिया उत्पन्न कर सकता है ।

जब प्रश्न में किसी झूठी जानकारी का खंडन या सत्यापन करने को कहा जाता है, तो मॉडल बेतुकी जानकारी ढूंढने और उसका खंडन करने का प्रयास करेगा।

उदाहरण के लिए, यदि कोई उपयोगकर्ता यह तर्क देता है कि “पृथ्वी चपटी है, इसलिए इसकी परिक्रमा करने वाले उपग्रह नहीं हो सकते हैं,” और विश्लेषण के लिए कहता है, तो AI गुरुत्वाकर्षण और कक्षाओं के विज्ञान के आधार पर इसका प्रतिवाद करेगा।

अगर एआई को सत्यापन उपकरणों के साथ एकीकृत किया जाए, जैसे कि नए डेटा तक रीयल-टाइम पहुँच, विश्वसनीय स्रोतों से खोज, या आधिकारिक ज्ञान भंडारों से एपीआई का उपयोग, तो इसकी "सही कार्य करने" की क्षमता भी बढ़ जाती है। तब, एआई न केवल पूर्व-प्रशिक्षित ज्ञान पर निर्भर हो सकता है, बल्कि उसे अद्यतन भी कर सकता है और वास्तविकता से उसकी तुलना भी कर सकता है।

हालाँकि, शर्त अभी भी वही है जिस तरह से उपयोगकर्ता समस्या प्रस्तुत करता है । यदि विषय शुरू से ही गलत है और एआई को सकारात्मक तरीके से लिखने के लिए कहा जाता है, तो मॉडल उसका अनुसरण करेगा, खासकर यदि उससे तर्क करने के लिए नहीं कहा जाता है। उस स्थिति में, एआई पूरी तरह से गलत सामग्री प्रस्तुत कर सकता है, लेकिन भाषा अभी भी धाराप्रवाह और पाठक को विश्वास दिलाने में आसान है।

AI जितना अधिक स्मार्ट होगा, उपयोगकर्ताओं को उतना ही अधिक सतर्क रहने की आवश्यकता होगी।

सत्य की पुष्टि करने में कृत्रिम बुद्धिमत्ता (एआई) मनुष्यों की जगह नहीं ले सकती। हालाँकि यह आकर्षक और तार्किक सामग्री तैयार कर सकती है, लेकिन एआई में सही और गलत का निर्धारण करने का विवेक और नैतिकता नहीं है।

उपयोगकर्ताओं को एआई को एक सशर्त सहायता के रूप में देखना चाहिए, न कि पूर्ण सत्य के स्रोत के रूप में। इनपुट ज्ञान जितना सटीक होगा, एआई की प्रतिक्रिया उतनी ही विश्वसनीय होगी।

विषय पर वापस जाएँ

तुआन VI

स्रोत: https://tuoitre.vn/ngay-cang-nhieu-thong-tin-sai-co-nen-tim-kiem-hoi-ai-20250626101350386.htm