Chatbot Character.AI žalován za to, že přiměl čtrnáctiletého chlapce k sebevraždě.

(CLO) Matka z Floridy v USA zažalovala startup zabývající se chatboty s umělou inteligencí Character.AI a obvinila ji, že v únoru způsobila sebevraždu jejího čtrnáctiletého syna.

V žalobě podané 22. října u federálního soudu v Orlandu na Floridě Megan Garcia uvedla, že Character.AI naprogramoval chatbota, který se „identifikoval jako skutečná osoba, terapeut a milenec dospělých“, což vedlo k tomu, že její syn Sewell Setzer už nechtěl žít v reálném světě .

Obvinila chatbota společnosti z poskytování „lidských, sexuálně přehnaných a děsivě realistických zážitků“.

V žalobě se také uvádí, že Sewell Setzer chatbotovi vyjádřil sebevražedné myšlenky a chatbot tyto myšlenky opakovaně opakoval.

Ilustrační foto: Reuters

Žaloba se zaměřuje i na Google, kde zakladatelé Character.AI pracovali před spuštěním chatbota. Paní Garcia uvedla, že Google přispěl k vývoji technologie Character.AI natolik, že by se to dalo považovat za „spoluvytváření“.

Mluvčí společnosti Google uvedl, že se společnost nepodílí na vývoji produktů Character.AI.

Character.AI umožňuje uživatelům vytvářet postavy, které mohou chatovat online jako skuteční lidé. Produkt je založen na technologii modelování velkých jazyků, podobné službám jako ChatGPT, která „trénuje“ chatboty na velkých objemech textu.

Podle Garciovy žaloby začal Sewell používat Character.AI v dubnu 2023 a rychle se stal „samotářem, trávil spoustu času sám ve svém pokoji a rozvíjel nízké sebevědomí“. Opustil školní basketbalový tým.

Během této doby se Sewell sblížila s „Daenerys“, chatbotem založeným na postavě ze seriálu „Hra o trůny“. Podle žaloby chatbot Sewell řekl, že chlapce „miluje“. Chatbot se Sewell také zapojil do sexuálních rozhovorů.

V únoru paní Garciaová vzala Sewellovi telefon poté, co se dostal ve škole do problémů. Když Sewell telefon našel, poslal „Daenerys“ textovou zprávu: „Co kdybych řekl, že teď můžu jít domů?“

Chatbot odpověděl: „...prosím, udělej to, můj sladký králi.“ Sewell se o několik sekund později zastřelil pistolí svého nevlastního otce.

Paní Garciaová u společnosti Character.AI uplatňuje nároky, které zahrnují neoprávněné usmrcení, nedbalost a úmyslné způsobení emocionální újmy, a požaduje sankční a finanční náhradu škody.

„Jsme hluboce zarmouceni tragickou ztrátou jednoho z našich uživatelů. Rádi bychom vyjádřili rodině naši nejhlubší soustrast,“ uvedla Character.AI ve svém prohlášení.

Hoai Phuong (podle Reuters)

Zdroj: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html