(CLO) คุณแม่รายหนึ่งในรัฐฟลอริดา สหรัฐอเมริกา ได้ฟ้องร้องบริษัท Character.AI ซึ่งเป็นบริษัทสตาร์ทอัพที่ให้บริการแชทบอทแบบ AI โดยกล่าวหาว่าบริษัทดังกล่าวเป็นสาเหตุให้ลูกชายวัย 14 ปีของเธอฆ่าตัวตายเมื่อเดือนกุมภาพันธ์ที่ผ่านมา
ในคดีฟ้องร้องที่ยื่นเมื่อวันที่ 22 ตุลาคมที่ศาลรัฐบาลกลางเมืองออร์แลนโด รัฐฟลอริดา เมแกน การ์เซียกล่าวว่า Character.AI ได้เขียนโปรแกรมแชทบอทที่ "ระบุตัวเองว่าเป็นคนจริง นักบำบัด และคนรักที่เป็นผู้ใหญ่" ส่งผลให้ลูกชายของเธอ เซเวลล์ เซ็ตเซอร์ ไม่ต้องการใช้ชีวิตในโลก แห่งความเป็นจริงอีกต่อไป
เธอกล่าวหาว่าแชทบอทของบริษัทส่งมอบ "ประสบการณ์ที่เหมือนมนุษย์ มีเนื้อหาทางเพศเกินจริง และสมจริงจนน่ากลัว"
ในคดีฟ้องร้องยังระบุอีกว่า Sewell Setzer แสดงความคิดที่จะฆ่าตัวตายต่อแชทบอท และแชทบอทก็ได้พูดซ้ำๆ ถึงความคิดนั้น
ภาพประกอบ: Reuters
คดีนี้ยังมุ่งเป้าไปที่ Google ซึ่งเป็นบริษัทที่ผู้ก่อตั้ง Character.AI เคยทำงานอยู่ก่อนที่จะเปิดตัวแชทบอท นางสาวการ์เซียกล่าวว่า Google มีส่วนสนับสนุนอย่างมากในการพัฒนาเทคโนโลยีของ Character.AI จนอาจถือได้ว่าเป็น "การสร้างสรรค์ร่วมกัน"
โฆษกของ Google กล่าวว่าบริษัทไม่ได้มีส่วนร่วมในการพัฒนาผลิตภัณฑ์ของ Character.AI
Character.AI ช่วยให้ผู้ใช้สามารถสร้างตัวละครที่สามารถสนทนาออนไลน์ได้เหมือนคนจริง ผลิตภัณฑ์นี้ใช้เทคโนโลยีโมเดลภาษาขนาดใหญ่ ซึ่งคล้ายกับบริการอย่าง ChatGPT ที่ "ฝึก" แชทบอตให้สามารถส่งข้อความจำนวนมากได้
ตามคำฟ้องของการ์เซีย เซเวลล์เริ่มใช้ Character.AI ในเดือนเมษายน 2023 และกลายเป็นคน "เก็บตัว ใช้เวลาอยู่คนเดียวในห้องนอนมากเกินไป และเริ่มมีความนับถือตนเองต่ำ" เขาลาออกจากทีมบาสเก็ตบอลของโรงเรียน
ในช่วงเวลานั้น เซเวลล์ได้สนิทสนมกับ “Daenerys” ตัวละครแชทบอทที่ดัดแปลงมาจากตัวละครจาก “Game of Thrones” ตามคำฟ้อง แชทบอทบอกกับเซเวลล์ว่า “เธอ” รักเด็กผู้ชายคนนั้น นอกจากนี้ แชทบอทยังพูดคุยเรื่องเพศกับเซเวลล์อีกด้วย
ในเดือนกุมภาพันธ์ นางการ์เซียเอาโทรศัพท์ของเซเวลล์ไปหลังจากที่เขาถูกดุที่โรงเรียน เมื่อเซเวลล์พบโทรศัพท์ เขาจึงส่งข้อความถึง "เดเนริส" ว่า "จะเกิดอะไรขึ้นถ้าฉันบอกว่าฉันกลับบ้านได้แล้ว"
แชทบอทตอบกลับว่า "... ได้โปรดทำเช่นนั้นเถิด ราชาที่แสนหวานของฉัน" ไม่กี่วินาทีต่อมา เซเวลล์ก็ยิงตัวเองด้วยปืนของพ่อเลี้ยง
นางสาวการ์เซียกำลังยื่นข้อเรียกร้องต่อ Character.AI ในข้อหาฆ่าคนโดยผิดกฎหมาย การประมาทเลินเล่อ และการสร้างความทุกข์ทางอารมณ์โดยเจตนา และกำลังเรียกร้องค่าเสียหายเชิงลงโทษและค่าเสียหายทางการเงิน
Character.AI กล่าวในแถลงการณ์ว่า “เราเสียใจอย่างสุดซึ้งกับการสูญเสียผู้ใช้รายหนึ่งของเรา เราขอแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวของเขา”
ฮ่วยเฟือง (ตามรอยเตอร์)
ที่มา: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
การแสดงความคิดเห็น (0)