OpenAI fait face à sa première plainte déposée par un État américain.

Le 1er juin, l'État de Floride a intenté un procès contre OpenAI et son PDG, Sam Altman, alléguant que la société avait présenté de manière trompeuse la sécurité de sa plateforme ChatGPT.

Selon la plainte, le chatbot a nui aux jeunes utilisateurs par le biais de contenus liés à la violence et à l'automutilation.

Sam Altman, PDG d'OpenAI. Photo : Reuters

Il s'agit du premier État américain à intenter une action en justice contre OpenAI. Le procureur général de Floride, James Uthmeier, a déposé une plainte devant un tribunal de l'État de Floride.

La plainte cite une fusillade survenue l'an dernier dans une université de Tallahassee, ainsi que de nombreux incidents dans d'autres États, au cours desquels ChatGPT aurait fourni des informations à des suspects pour commettre des actes violents.

Lors d'une récente conférence de presse, Uthmeier a déclaré que l'État de Floride avait cité le PDG Altman dans la plainte parce qu'il avait joué un rôle central dans la promotion de certaines fonctionnalités de ChatGPT que l'État considère comme les plus nuisibles.

« Des gens sont blessés, des parents sont trompés, et ils doivent en répondre », a déclaré Uthmeier.

La Floride réclame des milliards de dollars de dommages et intérêts et demande également au tribunal d'obliger OpenAI à modifier la façon dont sa plateforme interagit avec les jeunes utilisateurs.

OpenAI n'a pas encore publié de réponse officielle à la plainte.

Auparavant, OpenAI avait déclaré que ses modèles étaient entraînés à rejeter les requêtes susceptibles de « faciliter considérablement les comportements violents » et qu'ils informeraient les forces de l'ordre si les conversations révélaient « un risque imminent et crédible de préjudice pour autrui ».

L'entreprise a également indiqué qu'elle fait appel à des professionnels de la santé mentale pour évaluer les cas limites.

Cette action en justice intervient dans un contexte de multiplication des poursuites judiciaires contre les sociétés de développement d'IA, accusées de ne pas avoir empêché les interactions avec les chatbots susceptibles d'entraîner des automutilations, des problèmes de santé mentale ou des actes de violence.

OpenAI fait également face à une autre action en justice liée à des fusillades aux États-Unis et au Canada, dans laquelle les plaignants allèguent que l'entreprise n'a pas agi de manière adéquate malgré des preuves suggérant que les auteurs ont utilisé ChatGPT pour planifier les attaques.

Source : https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html