Podle žaloby chatbot ubližoval mladým uživatelům prostřednictvím obsahu souvisejícího s násilím a sebepoškozováním.
Toto je první stát v USA, který podnikl kroky proti OpenAI. Floridský generální prokurátor James Uthmeier podal žalobu u floridského státního soudu.
Žaloba zmiňuje střelbu na univerzitě v Tallahassee z loňského roku a četné incidenty v dalších státech, kdy ChatGPT údajně poskytoval informace podezřelým k páchání násilných činů.
Na nedávné tiskové konferenci Uthmeier uvedl, že stát Florida jmenoval generálního ředitele Altmana v žalobě, protože hrál ústřední roli v propagaci některých funkcí ChatGPT, které stát považuje za nejškodlivější.
„Lidé jsou ubližováni, rodiče jsou podvedeni a musí za to nést odpovědnost,“ řekl Uthmeier.
Florida požaduje odškodné ve výši miliard dolarů a také žádá soud, aby donutil OpenAI změnit způsob, jakým její platforma interaguje s mladými uživateli.
OpenAI zatím na žalobu oficiálně nereagovala.
Společnost OpenAI dříve uvedla, že její modely jsou vyškoleny k odmítání požadavků, které by mohly „významně usnadnit násilné chování“, a upozorní orgány činné v trestním řízení, pokud konverzace prokáží „bezprostřední a věrohodné riziko újmy na ostatních“.
Společnost rovněž uvedla, že do hodnocení hraničních případů zapojuje odborníky na duševní zdraví.
Žaloba přichází uprostřed rostoucí vlny soudních sporů proti společnostem zabývajícím se vývojem umělé inteligence, které údajně nezabránily interakcím chatbotů, jež by mohly vést k sebepoškozování, problémům s duševním zdravím nebo násilí.
OpenAI čelí také další žalobě týkající se střeleb v USA a Kanadě, v níž žalobci tvrdí, že společnost nejednala adekvátně navzdory důkazům naznačujícím, že pachatelé k plánování útoků použili ChatGPT.
Zdroj: https://hanoimoi.vn/openai-doi-mat-vu-kien-dau-tien-tu-mot-bang-my-1024606.html
Komentář (0)