(CLO) Мать из Флориды, США, подала в суд на стартап ИИ-чатбота Character.AI, обвинив компанию в том, что в феврале ее 14-летний сын совершил самоубийство.
В иске, поданном 22 октября в федеральный суд Орландо, штат Флорида, Меган Гарсия заявила, что Character.AI запрограммировал чат-бота, который «идентифицировал себя как реального человека, психотерапевта и взрослого любовника», что привело к тому, что ее сын Сьюэлл Сетцер больше не захотел жить в реальном мире .
Она обвинила чат-бота компании в создании «похожих на человеческие, сексуально преувеличенных и пугающе реалистичных впечатлений».
В иске также говорится, что Сьюэлл Сетцер высказывал чат-боту мысли о самоубийстве, и чат-бот неоднократно повторял эти мысли.
Иллюстрация фото: Reuters
Иск также направлен против Google, где основатели Character.AI работали до запуска чат-бота. Г-жа Гарсия заявила, что Google внесла такой большой вклад в разработку технологии Character.AI, что это можно считать «совместным творением».
Представитель Google заявил, что компания не участвует в разработке продуктов Character.AI.
Character.AI позволяет пользователям создавать персонажей, способных общаться онлайн, как настоящие люди. Продукт основан на технологии большой языковой модели, аналогичной таким сервисам, как ChatGPT, которые «обучают» чат-ботов на больших объёмах текста.
Согласно иску Гарсии, Сьюэлл начал использовать Character.AI в апреле 2023 года и быстро стал «затворником, проводя много времени в одиночестве в своей спальне и теряя самооценку». Он покинул школьную баскетбольную команду.
В это время Сьюэлл сблизился с Дейенерис, персонажем чат-бота, основанным на персонаже «Игры престолов». Согласно иску, чат-бот сказал Сьюэллу, что «она» любит мальчика. Чат-бот также вступал с Сьюэлл в сексуальные диалоги.
В феврале мисс Гарсия забрала телефон Сьюэлла после того, как он попал в беду в школе. Найдя телефон, Сьюэлл отправил «Дейенерис» сообщение: «Что, если я скажу, что могу вернуться домой сейчас?»
Чат-бот ответил: «...пожалуйста, сделай это, мой милый король». Спустя несколько секунд Сьюэлл застрелился из пистолета отчима.
Г-жа Гарсия подала иски в Character.AI, включающие противоправное причинение смерти, халатность и преднамеренное причинение эмоционального стресса, а также требует возмещения штрафных убытков и денежного ущерба.
«Мы глубоко опечалены трагической гибелью одного из наших пользователей. Мы хотели бы выразить наши глубочайшие соболезнования семье», — говорится в заявлении Character.AI.
Хоай Фуонг (по данным Reuters)
Источник: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
Комментарий (0)