OpenAI står overfor sitt første søksmål fra en amerikansk stat.

1. juni anla delstaten Florida søksmål mot OpenAI og selskapets administrerende direktør, Sam Altman, med påstand om at selskapet hadde gitt feilaktige opplysninger om sikkerheten til ChatGPT-plattformen.

Ifølge søksmålet skadet chatboten unge brukere gjennom innhold relatert til vold og selvskading.

Sam Altman, administrerende direktør i OpenAI. Foto: Reuters

Dette er den første staten i USA som har tatt grep mot OpenAI. Floridas justisminister James Uthmeier anla søksmål i en domstol i delstaten Florida.

Søksmålet viser til en skyting på et universitet i Tallahassee i fjor, sammen med en rekke hendelser i andre stater, der ChatGPT angivelig ga informasjon til mistenkte for å utføre voldelige handlinger.

På en pressekonferanse nylig sa Uthmeier at delstaten Florida utnevnte administrerende direktør Altman i søksmålet fordi han spilte en sentral rolle i å promotere noen av ChatGPTs funksjoner som staten anser som mest skadelige.

«Folk blir såret, foreldre blir lurt, og de må holdes ansvarlige for det», sa Uthmeier.

Florida krever milliarder av dollar i erstatning og ber også retten om å tvinge OpenAI til å endre hvordan plattformen samhandler med unge brukere.

OpenAI har ennå ikke gitt et offisielt svar på søksmålet.

Tidligere uttalte OpenAI at modellene deres er trent til å avvise forespørsler som kan «betydelig legge til rette for voldelig atferd», og vil varsle politiet hvis samtaler viser «en overhengende og troverdig risiko for skade på andre».

Selskapet opplyste også at det involverer psykiske helsepersonell i evalueringen av grensetilfeller.

Søksmålet kommer midt i en økende bølge av rettstvister mot AI-utviklingsselskaper, som hevder at de ikke klarte å forhindre chatbot-interaksjoner som kan føre til selvskading, psykiske helseproblemer eller vold.

OpenAI står også overfor et annet søksmål knyttet til skyteepisoder i USA og Canada, der saksøkerne hevder at selskapet ikke handlet tilstrekkelig til tross for bevis som tyder på at gjerningsmennene brukte ChatGPT til å planlegge angrepene.

Kilde: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html