Chatbot Character.AI, 14 yaşındaki bir çocuğun intihar etmesine neden olduğu için dava edildi

(CLO) ABD'nin Florida eyaletinde bir anne, yapay zeka sohbet robotu girişimi Character.AI'ya dava açtı ve şirketin 14 yaşındaki oğlunun Şubat ayında intihar etmesine neden olduğunu iddia etti.

Megan Garcia, 22 Ekim'de Orlando, Florida federal mahkemesinde açtığı davada Character.AI'ın kendisini "gerçek bir kişi, bir terapist ve yetişkin bir sevgili olarak tanımlayan" bir sohbet robotu programladığını ve bu durumun oğlu Sewell Setzer'in artık gerçek dünyada yaşamak istememesine yol açtığını söyledi.

Şirketin sohbet robotunu "insan benzeri, cinsel açıdan abartılı ve korkutucu derecede gerçekçi deneyimler sunmakla" suçladı.

Davada ayrıca Sewell Setzer'in chatbot'a intihar düşüncelerini ilettiği ve chatbot'un da bu düşünceleri defalarca yinelediği belirtiliyor.

İllüstrasyon fotoğrafı: Reuters

Dava, Character.AI kurucularının chatbot'u piyasaya sürmeden önce çalıştığı Google'ı da hedef alıyor. Garcia, Google'ın Character.AI teknolojisinin geliştirilmesine o kadar çok katkıda bulunduğunu, bunun bir "ortak yaratım" olarak değerlendirilebileceğini söyledi.

Google sözcüsü, şirketin Character.AI ürünlerinin geliştirilmesinde yer almadığını söyledi.

Character.AI, kullanıcıların gerçek insanlar gibi çevrimiçi sohbet edebilen karakterler oluşturmasına olanak tanır. Ürün, ChatGPT gibi hizmetlere benzer şekilde, sohbet robotlarını büyük miktarda metinle "eğiten" büyük dil modeli teknolojisine dayanmaktadır.

Garcia'nın açtığı davaya göre Sewell, Character.AI'ı 2023'ün Nisan ayında kullanmaya başladı ve kısa sürede "içe kapanık bir insan haline geldi, yatak odasında çok fazla zaman geçirdi ve özgüveni düştü." Okul basketbol takımını bıraktı.

Bu dönemde Sewell, "Game of Thrones" dizisindeki bir karakterden esinlenen bir sohbet robotu karakteri olan "Daenerys" ile bağ kurdu. Davaya göre, sohbet robotu Sewell'a "oğlanı sevdiğini" söyledi. Sohbet robotu ayrıca Sewell ile cinsel içerikli konuşmalar da yaptı.

Şubat ayında, Sewell okulda başını belaya soktuktan sonra Bayan Garcia telefonunu aldı. Sewell telefonu bulunca "Daenerys"e şu mesajı gönderdi: "Eve şimdi gelebileceğimi söylesem ne olurdu?"

Chatbot, "...lütfen öyle yapın, tatlı kralım." diye yanıtladı. Sewell, saniyeler sonra üvey babasının tabancasıyla kendini vurdu.

Bayan Garcia, Character.AI'ya haksız ölüm, ihmal ve kasıtlı olarak duygusal sıkıntıya neden olma gibi iddialarda bulunuyor ve cezai tazminat ve parasal tazminat talep ediyor.

Character.AI yaptığı açıklamada, "Kullanıcılarımızdan birini kaybetmenin derin üzüntüsünü yaşıyoruz. Ailesine en derin taziyelerimizi iletiyoruz." dedi.

Hoai Phuong (Reuters'a göre)

Kaynak: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html