OpenAI se enfrenta a su primera demanda interpuesta por un estado estadounidense.

El 1 de junio, el estado de Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, alegando que la empresa tergiversó la seguridad de su plataforma ChatGPT.

Según la demanda, el chatbot perjudicó a los usuarios jóvenes mediante contenido relacionado con la violencia y la autolesión.

Sam Altman, director ejecutivo de OpenAI. Foto: Reuters

Este es el primer estado de EE. UU. en tomar medidas contra OpenAI. El fiscal general de Florida, James Uthmeier, presentó una demanda ante un tribunal estatal de Florida.

La demanda cita un tiroteo ocurrido el año pasado en una universidad de Tallahassee, junto con numerosos incidentes en otros estados, en los que ChatGPT supuestamente proporcionó información a sospechosos para llevar a cabo actos violentos.

En una reciente rueda de prensa, Uthmeier declaró que el estado de Florida incluyó al director ejecutivo Altman en la demanda porque desempeñó un papel fundamental en la promoción de algunas de las funciones de ChatGPT que el estado considera más perjudiciales.

"Hay personas que están sufriendo, padres que están siendo engañados, y deben rendir cuentas por ello", dijo Uthmeier.

Florida reclama miles de millones de dólares en concepto de daños y perjuicios, y también solicita al tribunal que obligue a OpenAI a cambiar la forma en que su plataforma interactúa con los usuarios jóvenes.

OpenAI aún no ha emitido una respuesta oficial a la demanda.

Anteriormente, OpenAI declaró que sus modelos están entrenados para rechazar solicitudes que podrían "facilitar significativamente un comportamiento violento" y que notificarán a las fuerzas del orden si las conversaciones muestran "un riesgo inminente y creíble de daño a terceros".

La empresa también afirmó que involucra a profesionales de la salud mental en la evaluación de casos límite.

La demanda se produce en medio de una creciente ola de litigios contra empresas de desarrollo de IA, que alegan que no impidieron las interacciones con chatbots que podrían provocar autolesiones, problemas de salud mental o violencia.

OpenAI también se enfrenta a otra demanda relacionada con tiroteos en Estados Unidos y Canadá, en la que los demandantes alegan que la empresa no actuó de forma adecuada a pesar de las pruebas que sugieren que los autores utilizaron ChatGPT para planificar los ataques.

Fuente: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html