OpenAI sieht sich seiner ersten Klage eines US-Bundesstaates gegenüber.

Am 1. Juni reichte der Bundesstaat Florida eine Klage gegen OpenAI und dessen CEO, Sam Altman, ein, in der er dem Unternehmen vorwirft, die Sicherheit seiner ChatGPT-Plattform falsch dargestellt zu haben.

Laut der Klage schädigte der Chatbot junge Nutzer durch Inhalte, die mit Gewalt und Selbstverletzung in Verbindung standen.

Sam Altman, CEO von OpenAI. Foto: Reuters

Florida ist der erste US-Bundesstaat, der gegen OpenAI vorgeht. Generalstaatsanwalt James Uthmeier reichte Klage vor einem Gericht des Bundesstaates Florida ein.

In der Klage wird auf eine Schießerei an einer Universität in Tallahassee im vergangenen Jahr sowie auf zahlreiche Vorfälle in anderen Bundesstaaten verwiesen, bei denen ChatGPT mutmaßlich Informationen an Verdächtige weitergegeben hat, um gewalttätige Handlungen zu begehen.

In einer kürzlich abgehaltenen Pressekonferenz sagte Uthmeier, dass der Staat Florida CEO Altman in der Klage genannt habe, weil er eine zentrale Rolle bei der Förderung einiger Funktionen von ChatGPT gespielt habe, die der Staat als besonders schädlich einstuft.

„Menschen werden verletzt, Eltern werden getäuscht, und dafür müssen sie zur Rechenschaft gezogen werden“, sagte Uthmeier.

Florida fordert Schadensersatz in Milliardenhöhe und verlangt außerdem vom Gericht, OpenAI zu zwingen, die Art und Weise zu ändern, wie seine Plattform mit jungen Nutzern interagiert.

OpenAI hat noch keine offizielle Stellungnahme zu der Klage abgegeben.

OpenAI hatte zuvor erklärt, dass seine Modelle darauf trainiert seien, Anfragen abzulehnen, die „gewalttätiges Verhalten erheblich begünstigen“ könnten, und die Strafverfolgungsbehörden zu benachrichtigen, wenn Gespräche „ein unmittelbares und glaubwürdiges Risiko einer Schädigung anderer“ erkennen ließen.

Das Unternehmen gab außerdem an, dass es Psychiater und Psychologen in die Beurteilung von Borderline-Fällen einbezieht.

Die Klage erfolgt inmitten einer wachsenden Welle von Rechtsstreitigkeiten gegen KI-Entwicklungsunternehmen, in denen ihnen vorgeworfen wird, Chatbot-Interaktionen nicht verhindert zu haben, die zu Selbstverletzungen, psychischen Problemen oder Gewalt führen könnten.

OpenAI sieht sich außerdem einer weiteren Klage im Zusammenhang mit Schießereien in den USA und Kanada gegenüber, in der die Kläger dem Unternehmen vorwerfen, nicht angemessen gehandelt zu haben, obwohl Beweise darauf hindeuten, dass die Täter ChatGPT zur Planung der Angriffe nutzten.

Quelle: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html