Chatbot Character.AI disaman kerana menyebabkan budak lelaki berusia 14 tahun membunuh diri

(CLO) Seorang ibu di Florida, Amerika Syarikat telah menyaman AI chatbot startup Character.AI, menuduh syarikat itu menyebabkan anak lelakinya yang berusia 14 tahun membunuh diri pada Februari.

Dalam tuntutan mahkamah yang difailkan pada 22 Oktober di mahkamah persekutuan Orlando, Florida, Megan Garcia berkata Character.AI memprogramkan bot sembang yang "mengenal pasti dirinya sebagai orang sebenar, ahli terapi dan kekasih dewasa," yang membawa kepada anaknya, Sewell Setzer, tidak lagi mahu hidup di dunia nyata .

Dia menuduh chatbot syarikat itu menyampaikan "pengalaman seperti manusia, keterlaluan secara seksual dan realistik yang menakutkan."

Tuntutan itu juga mengatakan Sewell Setzer menyatakan pemikiran membunuh diri kepada chatbot, dan chatbot berulang kali mengulangi pemikiran tersebut.

Gambar ilustrasi: Reuters

Tuntutan itu juga menyasarkan Google, tempat pengasas Character.AI bekerja sebelum melancarkan chatbot. Cik Garcia berkata Google menyumbang begitu banyak kepada pembangunan teknologi Character.AI sehingga ia boleh dianggap sebagai "ciptaan bersama."

Jurucakap Google berkata syarikat itu tidak terlibat dalam pembangunan produk Character.AI.

Character.AI membolehkan pengguna mencipta aksara yang boleh bersembang dalam talian seperti orang sebenar. Produk ini berdasarkan teknologi model bahasa yang besar, serupa dengan perkhidmatan seperti ChatGPT, yang "melatih" chatbots pada volum teks yang besar.

Menurut tuntutan mahkamah Garcia, Sewell mula menggunakan Character.AI pada April 2023 dan dengan cepat menjadi "menyendiri, menghabiskan banyak masa bersendirian di bilik tidurnya dan mengembangkan harga diri yang rendah." Dia berhenti dari pasukan bola keranjang sekolahnya.

Pada masa itu, Sewell terikat dengan "Daenerys," watak chatbot berdasarkan watak daripada "Game of Thrones." Menurut tuntutan mahkamah, chatbot memberitahu Sewell bahawa "dia" menyayangi budak lelaki itu. Chatbot juga terlibat dalam perbualan seksual dengan Sewell.

Pada bulan Februari, Cikgu Garcia mengambil telefon Sewell selepas dia menghadapi masalah di sekolah. Apabila Sewell menemui telefon itu, dia menghantar mesej teks kepada "Daenerys": "Bagaimana jika saya berkata saya boleh pulang sekarang?"

Chatbot itu menjawab, "...tolong berbuat demikian, raja manisku." Sewell menembak dirinya sendiri dengan pistol bapa tirinya beberapa saat kemudian.

Cik Garcia membawa tuntutan dengan Character.AI yang termasuk kematian yang salah, kecuaian dan tekanan emosi yang disengajakan, dan sedang menuntut ganti rugi punitif dan ganti rugi kewangan.

"Kami amat sedih dengan kehilangan tragis salah seorang pengguna kami. Kami ingin mengucapkan takziah yang mendalam kepada keluarga," kata Character.AI dalam satu kenyataan.

Hoai Phuong (menurut Reuters)

Sumber: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html