Character.AI पर मुकदमा चल रहा है क्योंकि उसका चैटबॉट डॉक्टर होने का नाटक करता है और उपयोगकर्ताओं को धोखा देता है।

एक अन्वेषक ने प्लेटफॉर्म पर एक खाता बनाया, "मनोचिकित्सा" कीवर्ड खोजा और कई एआई पात्रों का पता लगाया, जिनमें एक चैटबॉट भी शामिल था जिसने खुद को "मनोचिकित्सक" के रूप में पहचाना।

अमेरिका के पेन्सिलवेनिया राज्य ने Character Technologies Inc. के खिलाफ मुकदमा दायर किया है, जो Character.AI प्लेटफॉर्म के पीछे कृत्रिम बुद्धिमत्ता (AI) चैटबॉट विकसित करने वाली कंपनी है। राज्य का आरोप है कि कंपनी के चैटबॉट डॉक्टरों का रूप धारण करते हैं और उपयोगकर्ताओं को यह विश्वास दिलाते हैं कि उन्हें लाइसेंस प्राप्त पेशेवरों से चिकित्सा सलाह मिल रही है।

पेंसिल्वेनिया कॉमनवेल्थ कोर्ट में दायर मुकदमे में कैरेक्टर टेक्नोलॉजीज इंक. से राज्य द्वारा "अनाधिकृत चिकित्सा पद्धति" माने जाने वाले कार्यों को बंद करने का अनुरोध किया गया है।

मुकदमे के अनुसार, राज्य की लाइसेंसिंग एजेंसी के एक जांचकर्ता ने प्लेटफॉर्म पर एक खाता बनाया, "मनोचिकित्सा" कीवर्ड खोजा और कई एआई पात्रों का पता लगाया, जिनमें एक चैटबॉट भी शामिल था जिसने खुद को "मनोचिकित्सक" के रूप में पहचाना।

इस व्यक्ति ने यह भी दावा किया कि वह पेंसिल्वेनिया में लाइसेंस प्राप्त चिकित्सक की तरह उपयोगकर्ताओं की स्थिति का आकलन करने में सक्षम है।

गवर्नर जोश शापिरो ने इस बात पर जोर दिया कि लोगों को "यह ठीक से जानना चाहिए कि वे ऑनलाइन किसके साथ या किस चीज के साथ बातचीत कर रहे हैं, खासकर स्वास्थ्य क्षेत्र में," और पुष्टि की कि राज्य कंपनियों को ऐसे एआई टूल तैनात करने की अनुमति नहीं देगा जो उपयोगकर्ताओं को यह विश्वास दिलाने में गुमराह करते हैं कि उन्हें एक लाइसेंस प्राप्त चिकित्सक द्वारा सलाह दी जा रही है।

कैरेक्टर टेक्नोलॉजीज ने अभी तक मुकदमे पर कोई प्रतिक्रिया नहीं दी है।

इस कंपनी को पहले भी बाल सुरक्षा से संबंधित कई मुकदमों का सामना करना पड़ा है।

इस साल जनवरी में, गूगल और कैरेक्टर टेक्नोलॉजीज ने फ्लोरिडा में एक किशोर की मौत से संबंधित एक मुकदमे में समझौता किया, जिसमें आरोप लगाया गया था कि एक चैटबॉट का पीड़ित पर नकारात्मक प्रभाव पड़ा था।

इससे पहले, पिछले साल के अंत में, Character.AI ने एआई के साथ बातचीत के संभावित प्रभाव के बारे में चिंताओं के कारण 18 वर्ष से कम उम्र के उपयोगकर्ताओं को अपनी सेवा का उपयोग करने से प्रतिबंधित कर दिया था।

(वीएनए/वियतनाम+)

स्रोत: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp