На Character.AI подали до суду, оскільки його чат-бот видає себе за лікаря та обманює користувачів.

Слідчий створив обліковий запис на платформі, здійснив пошук за ключовим словом «психіатрія» та виявив численних персонажів зі штучним інтелектом, зокрема чат-бота, який ідентифікував себе як «психіатр».

Штат Пенсільванія (США) подав позов проти Character Technologies Inc., розробника чат-ботів зі штучним інтелектом (ШІ), що стоять за платформою Character.AI, стверджуючи, що чат-боти компанії видають себе за лікарів і змушують користувачів вірити, що вони отримують медичні поради від ліцензованих фахівців.

У позові, поданому до Суду Співдружності Пенсильванії, міститься вимога до Character Technologies Inc. припинити те, що штат вважає «несанкціонованою медичною практикою».

Згідно з позовом, слідчий з ліцензійного агентства штату створив обліковий запис на платформі, здійснив пошук за ключовим словом «психіатрія» та виявив кілька персонажів штучного інтелекту, зокрема чат-бота, який ідентифікував себе як «психіатр».

Ця особа також стверджувала, що може оцінювати стан здоров'я користувачів, як ліцензований лікар у Пенсильванії.

Губернатор Джош Шапіро наголосив, що люди «повинні точно знати, з ким або чим вони взаємодіють онлайн, особливо в секторі охорони здоров’я», і підтвердив, що штат не дозволить компаніям розгортати інструменти штучного інтелекту, які вводять користувачів в оману, змушуючи їх вважати, що їх консультує ліцензований лікар.

Компанія Character Technologies поки що не відреагувала на позов.

Ця компанія раніше стикалася з численними позовами, пов'язаними з безпекою дітей.

У січні цього року Google та Character Technologies досягли угоди у судовому процесі, пов'язаному зі смертю підлітка у Флориді, після звинувачень у тому, що чат-бот негативно вплинув на жертву.

Раніше, наприкінці минулого року, Character.AI заборонив користувачам віком до 18 років користуватися своїм сервісом через побоювання щодо потенційного впливу розмов зі штучним інтелектом.

(VNA/В'єтнам+)

Джерело: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp