(CLO) Seorang ibu di Florida, AS telah menggugat startup chatbot AI Character.AI, menuduh perusahaan tersebut menyebabkan putranya yang berusia 14 tahun bunuh diri pada bulan Februari.
Dalam gugatan hukum yang diajukan pada tanggal 22 Oktober di pengadilan federal Orlando, Florida, Megan Garcia mengatakan Character.AI memprogram chatbot yang "mengidentifikasi dirinya sebagai orang sungguhan, terapis, dan kekasih dewasa," yang menyebabkan putranya, Sewell Setzer, tidak lagi ingin hidup di dunia nyata.
Dia menuduh chatbot milik perusahaan itu memberikan "pengalaman yang mirip manusia, dilebih-lebihkan secara seksual, dan sangat realistis."
Gugatan tersebut juga mengatakan Sewell Setzer mengungkapkan pikiran-pikiran bunuh diri kepada chatbot, dan chatbot tersebut berulang kali mengulangi pikiran-pikiran tersebut.
Foto ilustrasi: Reuters
Gugatan tersebut juga menargetkan Google, tempat para pendiri Character.AI bekerja sebelum meluncurkan chatbot tersebut. Garcia mengatakan bahwa Google berkontribusi begitu besar terhadap pengembangan teknologi Character.AI sehingga dapat dianggap sebagai "ko-kreasi".
Seorang juru bicara Google mengatakan perusahaan tidak terlibat dalam pengembangan produk Character.AI.
Character.AI memungkinkan pengguna menciptakan karakter yang dapat mengobrol daring layaknya manusia sungguhan. Produk ini berbasis teknologi model bahasa besar, mirip dengan layanan seperti ChatGPT, yang "melatih" chatbot dengan teks dalam jumlah besar.
Menurut gugatan Garcia, Sewell mulai menggunakan Character.AI pada April 2023 dan segera menjadi "penyendiri, menghabiskan banyak waktu sendirian di kamar tidurnya, dan mulai memiliki harga diri yang rendah." Ia pun keluar dari tim basket sekolahnya.
Selama masa itu, Sewell menjalin hubungan dengan "Daenerys", sebuah karakter chatbot yang terinspirasi dari karakter "Game of Thrones". Menurut gugatan tersebut, chatbot tersebut memberi tahu Sewell bahwa "dia" mencintai anak laki-laki itu. Chatbot tersebut juga terlibat dalam percakapan seksual dengan Sewell.
Pada bulan Februari, Bu Garcia mengambil ponsel Sewell setelah ia membuat masalah di sekolah. Ketika Sewell menemukan ponsel itu, ia mengirim pesan teks kepada "Daenerys": "Bagaimana kalau aku bilang aku boleh pulang sekarang?"
Chatbot itu menjawab, "...tolong lakukanlah, rajaku yang manis." Sewell menembak dirinya sendiri dengan pistol ayah tirinya beberapa detik kemudian.
Ibu Garcia mengajukan tuntutan kepada Character.AI yang mencakup kematian yang salah, kelalaian, dan penimbulan tekanan emosional yang disengaja, dan mencari ganti rugi hukuman dan ganti rugi moneter.
"Kami sangat berduka atas kehilangan tragis salah satu pengguna kami. Kami ingin menyampaikan belasungkawa terdalam kami kepada keluarga yang ditinggalkan," ujar Character.AI dalam sebuah pernyataan.
Hoai Phuong (menurut Reuters)
[iklan_2]
Sumber: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
Komentar (0)