A OpenAI enfrenta seu primeiro processo judicial movido por um estado americano.

Em 1º de junho, o estado da Flórida entrou com uma ação judicial contra a OpenAI e seu CEO, Sam Altman, alegando que a empresa apresentou informações enganosas sobre a segurança de sua plataforma ChatGPT.

Segundo o processo, o chatbot prejudicou usuários jovens por meio de conteúdo relacionado à violência e à automutilação.

Sam Altman, CEO da OpenAI. Foto: Reuters

Este é o primeiro estado dos EUA a tomar medidas contra a OpenAI. O procurador-geral da Flórida, James Uthmeier, entrou com uma ação judicial no tribunal estadual da Flórida.

O processo cita um tiroteio em uma universidade em Tallahassee no ano passado, juntamente com inúmeros incidentes em outros estados, nos quais o ChatGPT supostamente forneceu informações a suspeitos para cometerem atos violentos.

Em uma coletiva de imprensa recente, Uthmeier afirmou que o estado da Flórida incluiu o CEO Altman no processo porque ele desempenhou um papel central na promoção de alguns dos recursos do ChatGPT que o estado considera mais prejudiciais.

"Pessoas estão sendo prejudicadas, pais estão sendo enganados, e eles precisam ser responsabilizados por isso", disse Uthmeier.

A Flórida está buscando indenizações na ordem de bilhões de dólares e também pede ao tribunal que obrigue a OpenAI a mudar a forma como sua plataforma interage com usuários jovens.

A OpenAI ainda não emitiu uma resposta oficial ao processo.

Anteriormente, a OpenAI afirmou que seus modelos são treinados para rejeitar solicitações que possam "facilitar significativamente o comportamento violento" e notificarão as autoridades policiais se as conversas demonstrarem "um risco iminente e crível de dano a terceiros".

A empresa também afirmou que envolve profissionais de saúde mental na avaliação de casos de transtorno de personalidade borderline.

O processo surge em meio a uma crescente onda de ações judiciais contra empresas de desenvolvimento de IA, alegando que elas não conseguiram impedir interações com chatbots que poderiam levar à automutilação, problemas de saúde mental ou violência.

A OpenAI também enfrenta outro processo relacionado a tiroteios nos EUA e no Canadá, no qual os demandantes alegam que a empresa não agiu adequadamente, apesar das evidências sugerirem que os autores dos ataques usaram o ChatGPT para planejá-los.

Fonte: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html