चैटबॉट कैरेक्टर.एआई पर 14 वर्षीय लड़के को आत्महत्या के लिए मजबूर करने का मुकदमा

(सीएलओ) अमेरिका के फ्लोरिडा में एक मां ने एआई चैटबॉट स्टार्टअप कैरेक्टर.एआई पर मुकदमा दायर किया है, जिसमें कंपनी पर आरोप लगाया गया है कि कंपनी के कारण ही फरवरी में उसके 14 वर्षीय बेटे ने आत्महत्या कर ली थी।

फ्लोरिडा के संघीय न्यायालय, ऑरलैंडो में 22 अक्टूबर को दायर मुकदमे में मेगन गार्सिया ने कहा कि कैरेक्टर.एआई ने एक चैटबॉट प्रोग्राम किया जो "खुद को एक वास्तविक व्यक्ति, एक चिकित्सक और एक वयस्क प्रेमी के रूप में पहचानता था," जिसके कारण उसका बेटा, सेवेल सेट्ज़र, अब वास्तविक दुनिया में नहीं रहना चाहता था।

उन्होंने कंपनी के चैटबॉट पर "मानव-सदृश, यौन रूप से अतिरंजित और भयावह रूप से यथार्थवादी अनुभव" प्रदान करने का आरोप लगाया।

मुकदमे में यह भी कहा गया है कि सेवेल सेट्ज़र ने चैटबॉट के समक्ष आत्महत्या के विचार व्यक्त किए, और चैटबॉट ने बार-बार उन विचारों को दोहराया।

चित्रण फोटो: रॉयटर्स

मुक़दमा गूगल पर भी निशाना साधा गया है, जहाँ कैरेक्टर.एआई के संस्थापक चैटबॉट लॉन्च करने से पहले काम करते थे। सुश्री गार्सिया ने कहा कि कैरेक्टर.एआई की तकनीक के विकास में गूगल का इतना बड़ा योगदान है कि इसे "सह-निर्माण" माना जा सकता है।

गूगल के प्रवक्ता ने कहा कि कंपनी Character.AI के उत्पादों के विकास में शामिल नहीं है।

Character.AI उपयोगकर्ताओं को ऐसे पात्र बनाने की अनुमति देता है जो वास्तविक लोगों की तरह ऑनलाइन चैट कर सकें। यह उत्पाद बड़े भाषा मॉडल तकनीक पर आधारित है, जो ChatGPT जैसी सेवाओं के समान है, जो बड़ी मात्रा में टेक्स्ट पर चैटबॉट्स को "प्रशिक्षित" करती है।

गार्सिया के मुकदमे के अनुसार, सेवेल ने अप्रैल 2023 में Character.AI का इस्तेमाल शुरू किया और जल्द ही "एकांतप्रिय हो गया, अपने बेडरूम में अकेले ज़्यादातर समय बिताने लगा और उसका आत्म-सम्मान कम हो गया।" उसने अपनी स्कूल बास्केटबॉल टीम छोड़ दी।

उस दौरान, सेवेल की "गेम ऑफ़ थ्रोन्स" के एक किरदार पर आधारित चैटबॉट कैरेक्टर "डेनरीज़" से दोस्ती हो गई। मुकदमे के अनुसार, चैटबॉट ने सेवेल से कहा कि "वह" उस लड़के से प्यार करती है। चैटबॉट ने सेवेल के साथ यौन संबंध भी बनाए।

फरवरी में, स्कूल में सेवेल के साथ हुई अनबन के बाद, सुश्री गार्सिया ने उसका फ़ोन ले लिया। जब सेवेल को फ़ोन मिला, तो उसने "डेनरीज़" को एक टेक्स्ट मैसेज भेजा: "अगर मैं कहूँ कि मैं अभी घर आ सकता हूँ, तो क्या होगा?"

चैटबॉट ने जवाब दिया, "... कृपया ऐसा ही करें, मेरे प्यारे राजा।" कुछ ही सेकंड बाद सेवेल ने अपने सौतेले पिता की पिस्तौल से खुद को गोली मार ली।

सुश्री गार्सिया कैरेक्टर.एआई के समक्ष दावे ला रही हैं, जिनमें गलत तरीके से मौत, लापरवाही और जानबूझकर भावनात्मक परेशानी पहुंचाना शामिल है, तथा वे दंडात्मक क्षतिपूर्ति और मौद्रिक क्षतिपूर्ति की मांग कर रही हैं।

कैरेक्टर.एआई ने एक बयान में कहा, "हम अपने एक उपयोगकर्ता की दुखद मृत्यु से बहुत दुखी हैं। हम उनके परिवार के प्रति अपनी गहरी संवेदना व्यक्त करते हैं।"

होई फुओंग (रॉयटर्स के अनुसार)

स्रोत: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html