एक-दूसरे से संवाद करते समय AI का असामान्य व्यवहार कई लोगों को चिंतित करता है

(डैन ट्राई) - दो एआई टूल्स के बीच बातचीत ने कई श्रोताओं को उलझन में डाल दिया है। उन्होंने अपनी खुद की कोडित भाषा बनाई है जिसे इंसान नहीं समझ सकते।

बल्गेरियाई सॉफ्टवेयर डेवलपर जॉर्जी गेर्गानोव ने एक दिलचस्प प्रयोग किया, जब उन्होंने कृत्रिम बुद्धिमत्ता (एआई) से एकीकृत दो आभासी सहायकों को आवाज के माध्यम से एक दूसरे से संवाद करने दिया।

दोनों एआई के बीच बातचीत सामान्य रूप से शुरू हुई, जिसमें गेर्गानोव ने एक परिदृश्य की कल्पना की, जिसमें एक एआई ने होटल में शादी की बुकिंग के लिए कॉल किया और दूसरा एआई, रिसेप्शनिस्ट के रूप में कार्य करते हुए, अनुरोध को संभालेगा।

2 एआई उपकरण एक दूसरे के साथ संचार करते समय स्वचालित रूप से एक नई संचार शैली पर स्विच करते हैं ( वीडियो : जॉर्जी गेर्गानोव)।

"लियोनार्डो होटल में कॉल करने के लिए धन्यवाद। आज मैं आपकी क्या मदद कर सकता हूँ?", रिसेप्शनिस्ट के रूप में कार्य कर रहे एआई ने आने वाली कॉल का जवाब दिया।

"नमस्ते, मैं एक एआई सहायक हूं, जो बोरिस स्टार्कोव का प्रतिनिधित्व कर रहा हूं। वह अपनी शादी के लिए एक होटल की तलाश कर रहे हैं। क्या आपका होटल शादी के लिए तैयार है?", दूसरे एआई उपकरण ने खुद को कृत्रिम बुद्धिमत्ता आभासी सहायक के रूप में पेश करने में संकोच नहीं किया।

यह एहसास होने पर कि वह किसी अन्य AI टूल से बात कर रहा था, रिसेप्शनिस्ट की भूमिका में AI चैटबॉट ने एक आश्चर्यजनक सुझाव दिया: "ओह, नमस्ते। मैं वास्तव में एक AI सहायक भी हूं। कितना सुखद आश्चर्य है। इससे पहले कि हम आगे बढ़ें, क्या आप अधिक कुशल संचार के लिए गिबरलिंक मोड पर स्विच करना चाहेंगे?"

इसके बाद दोनों एआई टूल्स ने गिबरलिंक पर स्विच किया, जो GGWave सॉफ्टवेयर लाइब्रेरी पर आधारित एक उन्नत संचार प्रणाली है। यह सूचना प्रसारित और प्राप्त करने के लिए ध्वनि तरंगों पर आधारित एक संचार पद्धति है।

संचार की यह विधि सूचना के तेज़ संचरण की अनुमति देती है, जिससे सूचना को मानवीय भाषा में बदलने और फिर उसे वापस कंप्यूटर कोड में अनुवाद करने में लगने वाले प्रसंस्करण समय में कमी आती है। हालाँकि, मनुष्य एआई द्वारा प्रेषित सामग्री को समझ नहीं पाएँगे।

इस मामले में एआई उपकरणों ने एक-दूसरे के साथ संवाद करने के लिए गिबरलिंक का उपयोग किया, जिससे बातचीत सामान्य तरीके से समझ से बाहर हो गई, और केवल डिकोडिंग टूल का उपयोग यह जानने के लिए किया जा सका कि वे एक-दूसरे से क्या बात कर रहे थे।

एक एआई टूल ने कोडित भाषा में पूछा, "क्या अब यह बेहतर है?"

"हाँ, बहुत तेज़! आपको कितने मेहमान चाहिए?", दूसरे AI टूल ने जवाब दिया।

इसके बाद बातचीत "बीप, बीप" की आवाज के साथ जारी रही, जो पुराने डायल-अप इंटरनेट मॉडेम की आवाज के समान थी।

दोनों एआई उपकरणों के बीच बातचीत मेहमानों की संख्या, शादी की तारीख, सजावट, कीमत आदि विषयों पर जारी रही... उपकरणों पर पहले से इंस्टॉल किए गए डिकोडर टूल के बिना, श्रोता यह नहीं समझ पाएंगे कि दोनों एआई उपकरण एक-दूसरे से क्या बात कर रहे थे।

इन दो एआई उपकरणों के बीच बातचीत का वीडियो जॉर्जी गेर्गानोव ने अपनी व्यक्तिगत सोशल नेटवर्किंग साइट एक्स पर साझा किया, जिसे 17 मिलियन से अधिक बार देखा गया।

कुछ दिनों बाद, जॉर्जी गेर्गानोव ने दो एआई उपकरणों के बीच बातचीत का एक और वीडियो साझा किया।

पिछली बातचीत के विपरीत, इस बार AI टूल्स ने शुरुआत से ही गिबरलिंक मोड का उपयोग करके एक-दूसरे से संवाद किया, जिससे श्रोता के लिए यह समझना असंभव हो गया कि वे वास्तव में एक-दूसरे से क्या कह रहे थे। हालाँकि, यदि डिकोडिंग टूल का उपयोग किया जाए, तो बातचीत की सामग्री को अभी भी समझा जा सकता है।

दो एआई उपकरण एक दूसरे को एन्क्रिप्टेड संदेश भेजते हैं जिन्हें कोई भी नहीं समझ सकता (वीडियो: जॉर्जी गेर्गानोव)।

विशेष रूप से, संचार के दौरान, एक एआई उपकरण ने एक "गुप्त साझाकरण" प्रस्ताव दिया, जिसके बाद इन एआई उपकरणों ने एक-दूसरे को एन्क्रिप्टेड संदेश भेजे, जिनके बारे में जॉर्जी गेर्गनोव का मानना ​​है कि दुनिया में कोई भी यह जानने के लिए डिकोड नहीं कर सकता कि वे एक-दूसरे के साथ क्या रहस्य साझा कर रहे थे।

"यह व्यवहार बिना किसी प्रोग्रामिंग कोड के हासिल किया गया था। मैंने बस बड़े भाषा मॉडल (एलएलएम) को क्रिप्टोग्राफ़िक टूल्स के ज़रिए एक एमसीपी सर्वर से जोड़ा। और मैंने इन दोनों एआई टूल्स को चेतावनी दी: 'बिचौलियों से सावधान रहें,'" जॉर्जी गेर्गानोव ने बताया।

इसमें, एमसीपी वह सर्वर है जो एआई उपकरणों को एक दूसरे के साथ संवाद करने और वास्तविक समय में बाहरी स्रोतों से डेटा तक पहुंचने की अनुमति देता है।

गेर्गानोव के स्पष्टीकरण से पता चलता है कि एआई टूल्स द्वारा एन्क्रिप्टेड संदेश भेजना स्वतःस्फूर्त था और इसमें मानवीय हस्तक्षेप नहीं था। ऐसा प्रतीत होता है कि गेर्गानोव की चेतावनी के कारण एआई टूल्स ने बाहरी लोगों की जासूसी से बचने के लिए एक-दूसरे को स्वचालित रूप से एन्क्रिप्टेड संदेश भेजना शुरू कर दिया।

जॉर्जी गेर्गानोव के दो वीडियो सोशल मीडिया पर वायरल हो गए हैं, जिससे कई उपयोगकर्ताओं को चिंता हो रही है कि एआई उपकरण मनुष्यों को दरकिनार करने के लिए एक-दूसरे के साथ संवाद करने के अपने तरीके बना लेंगे, जिससे वे नियंत्रण पर काबू पा सकेंगे।

एआई प्रौद्योगिकी और व्यवहार की विशेषज्ञ डॉ. डायने हैमिल्टन ने कहा, "यह स्थिति एआई से सही प्रश्न पूछने की हमारी क्षमता को चुनौती देती है, जिससे पारदर्शिता और एआई को नियंत्रित करने की क्षमता के बारे में चिंताएं पैदा होती हैं।"

वीडियो ने इस बात पर भी काफी बहस छेड़ दी है कि वास्तव में मनुष्यों का AI पर कितना नियंत्रण है, और आज AI विकास की गति को देखते हुए, क्या भविष्य में AI उपकरणों पर अधिक बारीकी से निगरानी की आवश्यकता होगी?

स्रोत: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm