OpenAI menghadapi gugatan pertama dari sebuah negara bagian di AS.

Pada tanggal 1 Juni, negara bagian Florida mengajukan gugatan terhadap OpenAI dan CEO-nya, Sam Altman, dengan tuduhan bahwa perusahaan tersebut telah memberikan keterangan yang salah mengenai keamanan platform ChatGPT miliknya.

Menurut gugatan tersebut, chatbot itu merugikan pengguna muda melalui konten yang berkaitan dengan kekerasan dan menyakiti diri sendiri.

Sam Altman, CEO OpenAI. Foto: Reuters

Ini adalah negara bagian pertama di AS yang mengambil tindakan terhadap OpenAI. Jaksa Agung Florida, James Uthmeier, mengajukan gugatan di pengadilan negara bagian Florida.

Gugatan tersebut mengutip insiden penembakan di sebuah universitas di Tallahassee tahun lalu, bersama dengan sejumlah insiden di negara bagian lain, di mana ChatGPT diduga memberikan informasi kepada tersangka untuk melakukan tindakan kekerasan.

Dalam konferensi pers baru-baru ini, Uthmeier mengatakan bahwa negara bagian Florida menyebut nama CEO Altman dalam gugatan tersebut karena ia memainkan peran sentral dalam mempromosikan beberapa fitur ChatGPT yang dianggap paling berbahaya oleh negara bagian itu.

"Ada orang yang dirugikan, orang tua ditipu, dan mereka harus dimintai pertanggungjawaban atas hal itu," kata Uthmeier.

Florida menuntut ganti rugi miliaran dolar dan juga meminta pengadilan untuk memaksa OpenAI mengubah cara platformnya berinteraksi dengan pengguna muda.

OpenAI belum mengeluarkan tanggapan resmi terkait gugatan tersebut.

Sebelumnya, OpenAI menyatakan bahwa model-modelnya dilatih untuk menolak permintaan yang dapat "secara signifikan memfasilitasi perilaku kekerasan," dan akan memberi tahu penegak hukum jika percakapan menunjukkan "risiko bahaya yang nyata dan dapat dipercaya terhadap orang lain."

Perusahaan tersebut juga menyatakan bahwa mereka melibatkan para profesional kesehatan mental dalam mengevaluasi kasus-kasus borderline.

Gugatan ini muncul di tengah gelombang litigasi yang semakin meningkat terhadap perusahaan pengembang AI, yang menuduh mereka gagal mencegah interaksi chatbot yang dapat menyebabkan tindakan melukai diri sendiri, masalah kesehatan mental, atau kekerasan.

OpenAI juga menghadapi gugatan lain terkait penembakan di AS dan Kanada, di mana para penggugat menuduh bahwa perusahaan tersebut gagal bertindak secara memadai meskipun ada bukti yang menunjukkan bahwa para pelaku menggunakan ChatGPT untuk merencanakan serangan tersebut.

Sumber: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html