Character.AI adlı sohbet robotu, 14 yaşındaki bir çocuğun intihar etmesine neden olduğu iddiasıyla dava ediliyor.

(CLO) ABD'nin Florida eyaletinde bir anne, yapay zeka sohbet robotu girişimi Character.AI'ye dava açarak, şirketin 14 yaşındaki oğlunun Şubat ayında intihar etmesine neden olduğunu iddia etti.

Megan Garcia, 22 Ekim'de Florida, Orlando'daki federal mahkemeye açtığı davada, Character.AI şirketinin "kendini gerçek bir kişi, terapist ve yetişkin bir sevgili olarak tanıtan" bir sohbet robotu programladığını ve bunun sonucunda oğlu Sewell Setzer'in artık gerçek dünyada yaşamak istemediğini belirtti.

Şirketin sohbet robotunu "insan benzeri, cinsel açıdan abartılı ve korkutucu derecede gerçekçi deneyimler" sunmakla suçladı.

Dava dilekçesinde ayrıca Sewell Setzer'in sohbet robotuna intihar niyetini dile getirdiği ve sohbet robotunun da bu niyetleri defalarca tekrarladığı iddia ediliyor.

İllüstrasyon fotoğrafı: Reuters

Dava, Character.AI'nin kurucularının chatbot'un piyasaya sürülmesinden önce çalıştığı Google'ı da hedef alıyor. Bayan Garcia, Google'ın Character.AI teknolojisinin geliştirilmesine o kadar çok katkıda bulunduğunu, "ortak yaratıcı" olarak kabul edilebileceğini belirtti.

Google sözcüsü, şirketin Character.AI'nin ürünlerinin geliştirilmesinde yer almadığını söyledi.

Character.AI, kullanıcıların gerçek insanlar gibi çevrimiçi sohbet edebilen karakterler oluşturmasına olanak tanır. Ürün, ChatGPT gibi hizmetlere benzer şekilde, büyük miktarda metin üzerinde sohbet botlarını "eğiten" büyük dil modelleme teknolojisine dayanmaktadır.

Garcia'nın açtığı davaya göre, Sewell Nisan 2023'te Character.AI'yi kullanmaya başladı ve kısa sürede "içe kapanık hale geldi, zamanının çoğunu yatak odasında yalnız geçirdi ve özgüveni düşmeye başladı." Okulun basketbol takımından ayrıldı.

O dönemde Sewell, "Game of Thrones" dizisindeki bir karakterden esinlenerek oluşturulan "Daenerys" adlı bir sohbet robotuna bağlıydı. Dava dilekçesine göre, sohbet robotu Sewell'e "onu sevdiğini" söyledi. Sohbet robotu ayrıca Sewell ile cinsel içerikli konuşmalar da gerçekleştirdi.

Şubat ayında Garcia, Sewell'in okulda başı derde girdikten sonra telefonunu aldı. Sewell telefonu bulduğunda "Daenerys"e şu mesajı gönderdi: "Ya eve hemen gelebileceğimi söyleseydim?"

Sohbet robotu, "...lütfen öyle yapın, sevgili kralım" diye yanıt verdi. Sewell birkaç saniye sonra üvey babasının tabancasıyla kendini vurdu.

Bayan Garcia, Character.AI aleyhine haksız ölüm, ihmalkar davranış ve kasten duygusal travmaya neden olma suçlamalarıyla dava açarak ceza ve tazminat talep etmektedir.

Character.AI yaptığı açıklamada, "Kullanıcılarımızdan birinin trajik kaybından dolayı derin üzüntü duyuyoruz. Ailesine en derin taziyelerimizi iletiyoruz" dedi.

Hoai Phuong (Reuters'a göre)

Kaynak: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html