Чат-бота Character.AI подали до суду за нібито доведення 14-річного хлопчика до самогубства.

(CLO) Мати з Флориди, США, подала до суду на стартап чат-ботів зі штучним інтелектом Character.AI, стверджуючи, що компанія довела її 14-річного сина до самогубства у лютому.

У позові, поданому 22 жовтня до федерального суду в Орландо, штат Флорида, Меган Гарсія заявила, що Character.AI запрограмував чат-бота, який «ідентифікував себе як реальну людину, терапевта та коханця для дорослих», що призвело до того, що її син, Сьюелл Сетцер, більше не хотів жити в реальному світі .

Вона звинуватила чат-бота компанії у наданні «схожих на людей, сексуально перебільшених та лякаюче реалістичних вражень».

У позові також стверджується, що Сьюелл Сетцер висловлював чат-боту суїцидальні наміри, а чат-бот неодноразово повторював ці наміри.

Ілюстративне фото: Reuters

Позов також спрямований проти Google, де засновники Character.AI працювали до запуску чат-бота. Пані Гарсія заявила, що Google зробив настільки великий внесок у розвиток технології Character.AI, що його можна вважати «співавтором».

Речник Google заявив, що компанія не бере участі в розробці продуктів Character.AI.

Character.AI дозволяє користувачам створювати персонажів, які можуть спілкуватися онлайн, як справжні люди. Продукт базується на технології моделювання великих мов, подібній до сервісів, таких як ChatGPT, які «навчають» чат-ботів великим обсягам тексту.

Згідно з позовом Гарсії, Сьюелл почав використовувати Character.AI у квітні 2023 року та швидко став «відлюдником, проводячи багато часу на самоті у своїй спальні та почавши мати низьку самооцінку». Він покинув шкільну баскетбольну команду.

Протягом цього часу Сьюелл був прив'язаний до «Дейенеріс» – чат-бота, заснованого на персонажі з «Гри престолів». Згідно з позовом, чат-бот сказав Сьюелл, що «вона» його кохає. Чат-бот також брав участь у розмовах сексуального підтексту з Сьюелл.

У лютому Гарсія забрав телефон Сьюелла після того, як той потрапив у халепу в школі. Коли Сьюелл знайшов телефон, він надіслав «Дейенеріс» текстове повідомлення: «А що, якби я сказав, що можу повернутися додому просто зараз?»

Чат-бот відповів: «...будь ласка, зробіть це, мій любий королю». Через кілька секунд Сьюелл застрелився з пістолета вітчима.

Пані Гарсія подає скарги проти Character.AI, зокрема за неправомірне вбивство, недбалу поведінку та навмисне заподіяння емоційних страждань, і вимагає покарання та компенсації.

«Ми глибоко засмучені трагічною втратою одного з наших користувачів. Ми хочемо висловити найглибші співчуття родині», – йдеться у заяві Character.AI.

Хоай Фуонг (за матеріалами Reuters)

Джерело: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html