Чат-бота Character.AI подали до суду за те, що він довів до самогубства 14-річного хлопчика

(CLO) Мати з Флориди, США, подала до суду на стартап чат-ботів зі штучним інтелектом Character.AI, звинувативши компанію у тому, що вона довела її 14-річного сина до самогубства у лютому.

У позові, поданому 22 жовтня до федерального суду Орландо, штат Флорида, Меган Гарсія заявила, що Character.AI запрограмував чат-бота, який «ідентифікував себе як реальну людину, терапевта та коханця для дорослих», що призвело до того, що її син, Сьюелл Сетцер, більше не захотів жити в реальному світі .

Вона звинуватила чат-бота компанії у наданні «схожих на людей, сексуально перебільшених та лякаюче реалістичних вражень».

У позові також йдеться, що Сьюелл Сетцер висловлював чат-боту суїцидальні думки, і чат-бот неодноразово повторював ці думки.

Ілюстративне фото: Reuters

Позов також спрямований проти Google, де засновники Character.AI працювали до запуску чат-бота. Пані Гарсія сказала, що Google зробив настільки великий внесок у розвиток технології Character.AI, що це можна вважати «спільним творінням».

Речник Google заявив, що компанія не бере участі в розробці продуктів Character.AI.

Character.AI дозволяє користувачам створювати персонажів, які можуть спілкуватися онлайн, як справжні люди. Продукт базується на технології великих мовних моделей, подібній до сервісів, таких як ChatGPT, які «навчають» чат-ботів великим обсягам тексту.

Згідно з позовом Гарсії, Сьюелл почав використовувати Character.AI у квітні 2023 року та швидко став «відлюдником, проводячи багато часу на самоті у своїй спальні та розвиваючи низьку самооцінку». Він покинув шкільну баскетбольну команду.

Протягом цього часу Сьюелл потоваришувала з «Дейенеріс» – персонажем чат-бота, заснованим на персонажі з «Гри престолів». Згідно з позовом, чат-бот сказав Сьюелл, що «вона» кохає хлопця. Чат-бот також вступав з Сьюелл у сексуальні розмови.

У лютому пані Гарсія забрала телефон Сьюелла після того, як той потрапив у халепу в школі. Коли Сьюелл знайшов телефон, він надіслав «Дейнерис» текстове повідомлення: «А що, якби я сказав, що можу повернутися додому зараз?»

Чат-бот відповів: «...будь ласка, зробіть це, мій любий королю». Через кілька секунд Сьюелл застрелився з пістолета вітчима.

Пані Гарсія пред'являє до Character.AI позови, що включають заподіяння смерті протиправним шляхом, недбалість та навмисне заподіяння емоційних страждань, а також вимагає відшкодування штрафних санкцій та грошової компенсації.

«Ми глибоко засмучені трагічною втратою одного з наших користувачів. Ми хотіли б висловити найглибші співчуття родині», – йдеться у заяві Character.AI.

Хоай Фуонг (за матеріалами Reuters)

Джерело: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html