Chatbot Character.AI je žalován za údajné přimět čtrnáctiletého chlapce k sebevraždě.

(CLO) Matka z Floridy v USA zažalovala startup s umělou inteligencí a chatboty Character.AI s tvrzením, že společnost v únoru způsobila sebevraždu jejího čtrnáctiletého syna.

V žalobě podané 22. října u federálního soudu v Orlandu na Floridě Megan Garcia uvedla, že Character.AI naprogramoval chatbota, který se „identifikoval jako skutečná osoba, terapeut a milenec dospělých“, což vedlo jejího syna Sewella Setzera k tomu, že už nechtěl žít v reálném světě .

Obvinila chatbota společnosti z poskytování „lidských, sexuálně přehnaných a děsivě realistických zážitků“.

Žaloba rovněž tvrdí, že Sewell Setzer chatbotovi vyjádřil sebevražedné úmysly a chatbot tyto úmysly opakovaně zopakoval.

Ilustrační foto: Reuters

Žaloba se zaměřuje i na Google, kde zakladatelé Character.AI pracovali před spuštěním chatbota. Paní Garciaová uvedla, že Google přispěl k vývoji technologie Character.AI natolik, že by mohl být považován za „spolutvůrce“.

Mluvčí společnosti Google uvedl, že se společnost nepodílí na vývoji produktů Character.AI.

Character.AI umožňuje uživatelům vytvářet postavy, které mohou chatovat online jako skuteční lidé. Produkt je založen na technologii modelování velkých jazyků, podobné službám jako ChatGPT, která „trénuje“ chatboty na velkých objemech textu.

Podle Garciovy žaloby začal Sewell používat Character.AI v dubnu 2023 a rychle se stal „samotářem, trávil hodně času sám ve svém pokoji a začal mít nízké sebevědomí“. Opustil školní basketbalový tým.

Během té doby byl Sewell připoután k „Daenerys“, chatbotovi založenému na postavě ze „Hry o trůny“. Podle žaloby chatbot Sewell řekl, že ho „miluje“. Chatbot se Sewell také zapojil do sexuálně sugestivních rozhovorů.

V únoru Garcia vzal Sewellovi telefon poté, co se dostal ve škole do problémů. Když Sewell telefon našel, poslal „Daenerys“ textovou zprávu: „Co kdybych řekl, že můžu hned přijít domů?“

Chatbot odpověděl: „...prosím, udělej to, můj milý králi.“ Sewell se o několik sekund později zastřelil pistolí svého nevlastního otce.

Paní Garcia podává stížnosti na Character.AI, včetně neoprávněného usmrtení, nedbalého jednání a úmyslného způsobení emocionální újmy, a požaduje potrestání a odškodnění.

„Jsme hluboce zarmouceni tragickou ztrátou jednoho z našich uživatelů. Chceme vyjádřit rodině naši nejhlubší soustrast,“ uvedla Character.AI ve svém prohlášení.

Hoai Phuong (podle Reuters)

Zdroj: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html