OpenAI wordt voor het eerst aangeklaagd door een Amerikaanse staat.

Volgens de rechtszaak heeft de chatbot jonge gebruikers schade berokkend door middel van inhoud die verband hield met geweld en zelfbeschadiging.

Sam Altman, CEO van OpenAI. Foto: Reuters

Dit is de eerste staat in de VS die actie onderneemt tegen OpenAI. De procureur-generaal van Florida, James Uthmeier, heeft een rechtszaak aangespannen bij een staatsrechtbank in Florida.

In de rechtszaak wordt verwezen naar een schietpartij op een universiteit in Tallahassee vorig jaar, evenals naar tal van incidenten in andere staten, waarbij ChatGPT naar verluidt informatie aan verdachten heeft verstrekt om gewelddadige daden te plegen.

Tijdens een recente persconferentie zei Uthmeier dat de staat Florida CEO Altman in de rechtszaak heeft betrokken omdat hij een centrale rol speelde in de promotie van enkele functies van ChatGPT die de staat als zeer schadelijk beschouwt.

"Mensen worden gekwetst, ouders worden misleid, en zij moeten daarvoor ter verantwoording worden geroepen," aldus Uthmeier.

Florida eist een schadevergoeding van miljarden dollars en verzoekt de rechtbank bovendien om OpenAI te dwingen de manier waarop het platform met jonge gebruikers omgaat te veranderen.

OpenAI heeft nog geen officiële reactie op de rechtszaak gegeven.

Eerder verklaarde OpenAI dat haar modellen getraind zijn om verzoeken af te wijzen die "aanzienlijk gewelddadig gedrag zouden kunnen bevorderen", en dat ze de politie zullen waarschuwen als uit gesprekken blijkt dat er "een dreigend en geloofwaardig risico op schade voor anderen" bestaat.

Het bedrijf verklaarde tevens dat het professionals in de geestelijke gezondheidszorg betrekt bij de beoordeling van borderlinegevallen.

De rechtszaak komt te midden van een groeiende golf van rechtszaken tegen AI-ontwikkelingsbedrijven, die ervan worden beschuldigd dat ze er niet in zijn geslaagd chatbotinteracties te voorkomen die kunnen leiden tot zelfbeschadiging, psychische problemen of geweld.

OpenAI wordt ook geconfronteerd met een andere rechtszaak in verband met schietpartijen in de VS en Canada, waarin de eisers beweren dat het bedrijf onvoldoende heeft gehandeld ondanks bewijs dat de daders ChatGPT gebruikten om de aanslagen te plannen.

Bron: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html