Chatboten Character.AI stämd för att ha orsakat självmord hos 14-årig pojke

(CLO) En mamma i Florida, USA, har stämt AI-chatbot-startupen Character.AI och anklagar företaget för att ha orsakat självmord hos hennes 14-årige son i februari.

I en stämningsansökan som lämnades in den 22 oktober i en federal domstol i Orlando, Florida, sa Megan Garcia att Character.AI programmerade en chatbot som "identifierade sig som en verklig person, en terapeut och en vuxen älskare", vilket ledde till att hennes son, Sewell Setzer, inte längre ville leva i den verkliga världen .

Hon anklagade företagets chatbot för att leverera "människoliknande, sexuellt överdrivna och skrämmande realistiska upplevelser".

I stämningsansökan står det också att Sewell Setzer uttryckte självmordstankar till chatboten, och att chatboten upprepade dessa tankar upprepade gånger.

Illustrationsfoto: Reuters

Stämningen riktar sig även mot Google, där grundarna av Character.AI arbetade innan de lanserade chatboten. Garcia sa att Google bidrog så mycket till utvecklingen av Character.AI:s teknik att den skulle kunna betraktas som ett "samskapande".

En talesperson för Google sa att företaget inte är involverat i utvecklingen av Character.AI:s produkter.

Character.AI låter användare skapa karaktärer som kan chatta online som riktiga människor. Produkten är baserad på storskalig språkmodellteknik, liknande tjänster som ChatGPT, som "tränar" chattrobotar på stora textvolymer.

Enligt Garcias stämningsansökan började Sewell använda Character.AI i april 2023 och blev snabbt "tillbakadragen, tillbringade mycket tid ensam i sitt sovrum och utvecklade låg självkänsla." Han lämnade sitt skolbasketlag.

Under den tiden knöt Sewell an till "Daenerys", en chatbotkaraktär baserad på en karaktär från "Game of Thrones". Enligt stämningsansökan sa chatboten till Sewell att "hon" älskade pojken. Chatboten hade också sexuella samtal med Sewell.

I februari tog Ms. Garcia Sewells telefon efter att han hamnat i trubbel i skolan. När Sewell hittade telefonen skickade han ett sms till "Daenerys": "Tänk om jag sa att jag kunde komma hem nu?"

Chatboten svarade: ”...snälla gör det, min käre kung.” Sewell sköt sig själv med sin styvfars pistol sekunder senare.

Fru Garcia väcker krav mot Character.AI som inkluderar felaktig död, vårdslöshet och avsiktlig tillfogande av känslomässigt lidande, och yrkar på straffskadestånd och ekonomiskt skadestånd.

"Vi är djupt ledsna över den tragiska förlusten av en av våra användare. Vi vill uttrycka våra djupaste kondoleanser till familjen", sade Character.AI i ett uttalande.

Hoai Phuong (enligt Reuters)

Källa: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html