شرکت OpenAI با اولین شکایت قضایی خود از یک ایالت آمریکا روبرو شد.

طبق این دادخواست، این چت‌بات از طریق محتوای مرتبط با خشونت و خودآزاری به کاربران جوان آسیب رسانده است.

این اولین ایالت در ایالات متحده است که علیه OpenAI اقدام می‌کند. جیمز اوتمیر، دادستان کل فلوریدا، در دادگاه ایالتی فلوریدا شکایتی را مطرح کرد.

در این دادخواست به تیراندازی در دانشگاهی در تالاهاسی در سال گذشته و همچنین حوادث متعدد در ایالت‌های دیگر اشاره شده است که در آنها ظاهراً ChatGPT اطلاعاتی را در اختیار مظنونان برای انجام اقدامات خشونت‌آمیز قرار داده است.

اوتمیر در یک کنفرانس مطبوعاتی اخیر گفت که ایالت فلوریدا، مدیرعامل آلتمن را در این دعوی قضایی معرفی کرده است، زیرا او نقش محوری در ترویج برخی از ویژگی‌های ChatGPT داشته است که ایالت آنها را مضرترین می‌داند.

اوتمیر گفت: «مردم آسیب می‌بینند، والدین فریب می‌خورند و آنها باید در قبال این موضوع پاسخگو باشند.»

فلوریدا به دنبال میلیاردها دلار غرامت است و همچنین از دادگاه می‌خواهد که OpenAI را مجبور به تغییر نحوه تعامل پلتفرم خود با کاربران جوان کند.

شرکت OpenAI هنوز واکنش رسمی به این شکایت نشان نداده است.

پیش از این، OpenAI اظهار داشت که مدل‌هایش آموزش دیده‌اند تا درخواست‌هایی را که می‌توانند «به‌طور قابل‌توجهی رفتار خشونت‌آمیز را تسهیل کنند» رد کنند و اگر مکالمات «خطر قریب‌الوقوع و معتبر آسیب به دیگران» را نشان دهند، به نیروی انتظامی اطلاع خواهند داد.

این شرکت همچنین اظهار داشت که متخصصان سلامت روان را در ارزیابی موارد مرزی دخیل می‌کند.

این دادخواست در بحبوحه موج فزاینده‌ای از دعاوی علیه شرکت‌های توسعه هوش مصنوعی مطرح می‌شود که ادعا می‌کنند آنها نتوانسته‌اند از تعاملات چت‌بات که می‌تواند منجر به خودآزاری، مشکلات سلامت روان یا خشونت شود، جلوگیری کنند.

شرکت OpenAI همچنین با یک پرونده قضایی دیگر در رابطه با تیراندازی‌ها در ایالات متحده و کانادا روبرو است که در آن شاکیان ادعا می‌کنند که این شرکت علیرغم شواهد مبنی بر استفاده عاملان از ChatGPT برای برنامه‌ریزی حملات، نتوانسته اقدامات لازم را انجام دهد.

منبع: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html