(CLO) رفعت أم في فلوريدا بالولايات المتحدة الأمريكية دعوى قضائية ضد شركة Character.AI الناشئة المتخصصة في برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، مدعيةً أن الشركة تسببت في انتحار ابنها البالغ من العمر 14 عامًا في فبراير.
في دعوى قضائية رفعت في 22 أكتوبر في المحكمة الفيدرالية في أورلاندو، فلوريدا، ذكرت ميغان غارسيا أن شركة Character.AI برمجت روبوت محادثة "عرّف نفسه بأنه شخص حقيقي، ومعالج نفسي، وعاشق بالغ"، مما دفع ابنها، سيويل سيتزر، إلى عدم الرغبة في العيش في العالم الحقيقي.
اتهمت الشركة برنامج الدردشة الآلي الخاص بها بتقديم "تجارب شبيهة بالبشر، ومبالغ فيها جنسياً، وواقعية بشكل مخيف".
وتزعم الدعوى القضائية أيضاً أن سيويل سيتزر أعرب عن نوايا انتحارية لبرنامج الدردشة الآلي، وأن برنامج الدردشة الآلي كرر هذه النوايا مراراً وتكراراً.
صورة توضيحية: رويترز
تستهدف الدعوى القضائية أيضاً شركة جوجل، حيث كان مؤسسو Character.AI يعملون قبل إطلاق برنامج الدردشة الآلي. وذكرت السيدة غارسيا أن جوجل ساهمت بشكل كبير في تطوير تقنية Character.AI لدرجة أنه يمكن اعتبارها "شريكاً مؤسساً".
وقال متحدث باسم جوجل إن الشركة ليست متورطة في تطوير منتجات Character.AI.
تتيح منصة Character.AI للمستخدمين إنشاء شخصيات قادرة على الدردشة عبر الإنترنت كالأشخاص الحقيقيين. يعتمد المنتج على تقنية نمذجة لغوية متطورة، على غرار خدمات مثل ChatGPT، التي "تدرب" روبوتات الدردشة على كميات هائلة من النصوص.
بحسب دعوى غارسيا، بدأ سيويل باستخدام Character.AI في أبريل 2023 وسرعان ما أصبح "منعزلاً، يقضي الكثير من الوقت بمفرده في غرفة نومه وبدأ يعاني من تدني احترام الذات". وقد ترك فريق كرة السلة بالمدرسة.
خلال تلك الفترة، كان سيويل على علاقة بـ"دينيريس"، وهي روبوت محادثة مستوحى من شخصية في مسلسل "صراع العروش". ووفقًا للدعوى القضائية، أخبر الروبوت سيويل أنه يحبه. كما انخرط الروبوت في محادثات ذات إيحاءات جنسية مع سيويل.
في فبراير، أخذت غارسيا هاتف سيويل بعد أن تورط في مشكلة في المدرسة. عندما وجد سيويل الهاتف، أرسل رسالة نصية إلى "دينيريس" يقول فيها: "ماذا لو قلتُ لها إنني أستطيع العودة إلى المنزل الآن؟"
أجاب برنامج الدردشة الآلي: "...أرجو أن تفعل ذلك يا ملكي الحبيب." أطلق سيويل النار على نفسه بمسدس زوج أمه بعد بضع ثوانٍ.
تقوم السيدة غارسيا برفع دعاوى قضائية ضد شركة Character.AI تتضمن القتل الخطأ، والإهمال، والتسبب المتعمد في ضائقة عاطفية، وتسعى إلى معاقبة الشركة والحصول على تعويض.
أعربت شركة Character.AI في بيان لها عن حزنها العميق لفقدان أحد مستخدميها بشكل مأساوي، وقالت: "نتقدم بأحر التعازي إلى عائلته".
هواي فونج (بحسب رويترز)
المصدر: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
تعليق (0)