Компания OpenAI столкнулась со своим первым судебным иском со стороны штата США.

1 июня штат Флорида подал иск против компании OpenAI и ее генерального директора Сэма Альтмана, утверждая, что компания исказила информацию о безопасности своей платформы ChatGPT.

Согласно иску, чат-бот причинил вред молодым пользователям посредством контента, связанного с насилием и членовредительством.

Сэм Альтман, генеральный директор OpenAI. Фото: Reuters.

Это первый штат в США, принявший меры против OpenAI. Генеральный прокурор Флориды Джеймс Утмайер подал иск в суд штата Флорида.

В иске упоминается стрельба в университете в Таллахасси в прошлом году, а также многочисленные инциденты в других штатах, в которых, как утверждается, ChatGPT предоставляла подозреваемым информацию для совершения насильственных действий.

На недавней пресс-конференции Утмайер заявил, что штат Флорида включил генерального директора Альтмана в иск, поскольку он сыграл центральную роль в продвижении некоторых функций ChatGPT, которые штат считает наиболее вредными.

«Людям причиняют боль, родителей обманывают, и они должны понести за это ответственность», — сказал Утмайер.

Флорида требует возмещения ущерба в размере миллиардов долларов, а также просит суд обязать компанию OpenAI изменить способ взаимодействия своей платформы с молодыми пользователями.

Компания OpenAI пока не опубликовала официального ответа на иск.

Ранее компания OpenAI заявляла, что ее модели обучены отклонять запросы, которые могут «значительно способствовать насильственному поведению», и будут уведомлять правоохранительные органы, если разговоры демонстрируют «непосредственную и достоверную угрозу причинения вреда другим».

Компания также заявила, что привлекает специалистов в области психического здоровья к оценке случаев пограничного расстройства личности.

Этот иск подан на фоне растущей волны судебных разбирательств против компаний, занимающихся разработкой ИИ, в которых утверждается, что они не смогли предотвратить взаимодействие с чат-ботами, которое может привести к членовредительству, проблемам с психическим здоровьем или насилию.

Компания OpenAI также столкнулась с еще одним судебным иском, связанным со стрельбой в США и Канаде, в котором истцы утверждают, что компания не приняла надлежащих мер, несмотря на доказательства того, что преступники использовали ChatGPT для планирования нападений.

Источник: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html