Chatboten Character.AI saksøkt for å ha forårsaket selvmord hos 14 år gammel gutt.

(CLO) En mor i Florida i USA har saksøkt AI-chatbot-oppstartsbedriften Character.AI, og anklager selskapet for å ha forårsaket selvmord hos hennes 14 år gamle sønn i februar.

I et søksmål anlagt 22. oktober i en føderal domstol i Orlando, Florida, sa Megan Garcia at Character.AI programmerte en chatbot som «identifiserte seg selv som en ekte person, en terapeut og en voksen elsker», noe som førte til at sønnen hennes, Sewell Setzer, ikke lenger ønsket å leve i den virkelige verden .

Hun anklaget selskapets chatbot for å levere «menneskelignende, seksuelt overdrevne og skremmende realistiske opplevelser».

Søksmålet sier også at Sewell Setzer uttrykte selvmordstanker til chatboten, og at chatboten gjentok disse tankene gjentatte ganger.

Illustrasjonsfoto: Reuters

Søksmålet retter seg også mot Google, der grunnleggerne av Character.AI jobbet før de lanserte chatboten. Garcia sa at Google bidro så mye til utviklingen av Character.AIs teknologi at den kan betraktes som en «samskaping».

En talsperson for Google sa at selskapet ikke er involvert i utviklingen av Character.AIs produkter.

Character.AI lar brukere lage karakterer som kan chatte på nett som ekte mennesker. Produktet er basert på stor språkmodellteknologi, likt tjenester som ChatGPT, som «trener» chatboter på store tekstmengder.

Ifølge Garcias søksmål begynte Sewell å bruke Character.AI i april 2023 og ble raskt «tilbaketrukket, tilbrakte mye tid alene på soverommet sitt og utviklet lav selvtillit». Han sluttet på skolens basketballag.

I løpet av den tiden knyttet Sewell bånd med «Daenerys», en chatbot-karakter basert på en karakter fra «Game of Thrones». Ifølge søksmålet fortalte chatboten Sewell at «hun» elsket gutten. Chatboten deltok også i seksuelle samtaler med Sewell.

I februar tok fru Garcia Sewells telefon etter at han hadde havnet i trøbbel på skolen. Da Sewell fant telefonen, sendte han en tekstmelding til «Daenerys»: «Hva om jeg sa at jeg kunne komme hjem nå?»

Chatboten svarte: «...vær så snill, min kjære konge.» Sewell skjøt seg selv med stefarens pistol sekunder senere.

Fru Garcia fremmer krav mot Character.AI som inkluderer urettmessig død, uaktsomhet og forsettlig påføring av følelsesmessig nød, og krever straffende erstatning og økonomisk erstatning.

«Vi er dypt lei oss over det tragiske tapet av en av våre brukere. Vi vil uttrykke vår dypeste medfølelse til familien», sa Character.AI i en uttalelse.

Hoai Phuong (ifølge Reuters)

Kilde: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html