챗봇 캐릭터.AI, 14세 소년 자살 유발 혐의로 고소

(CLO) 미국 플로리다의 한 어머니가 AI 챗봇 스타트업인 Character.AI를 고소했습니다. 이 회사가 지난 2월에 자신의 14세 아들을 자살하게 했다고 비난했습니다.

메건 가르시아는 10월 22일 플로리다주 올랜도 연방 법원에 제기한 소송에서 Character.AI가 "자신을 실제 사람, 치료사, 성인 연인으로 식별하는" 챗봇을 프로그래밍했으며, 이로 인해 그녀의 아들인 세웰 세처가 더 이상 현실 세계 에서 살고 싶어하지 않게 되었다고 주장했습니다.

그녀는 이 회사의 챗봇이 "인간과 같고, 성적으로 과장되고, 무섭도록 사실적인 경험"을 제공한다고 비난했습니다.

소송에서는 또한 세웰 세처가 챗봇에게 자살 생각을 표현했으며, 챗봇이 그러한 생각을 반복해서 반복했다고 주장했습니다.

일러스트 사진: 로이터

이 소송은 Character.AI 설립자들이 챗봇을 출시하기 전에 근무했던 구글도 대상으로 합니다. 가르시아 씨는 구글이 Character.AI 기술 개발에 매우 큰 기여를 했기 때문에 이를 "공동 창작"으로 볼 수 있다고 말했습니다.

구글 대변인은 회사가 Character.AI의 제품 개발에 관여하지 않는다고 말했습니다.

Character.AI를 사용하면 실제 사람처럼 온라인 채팅이 가능한 캐릭터를 만들 수 있습니다. 이 제품은 ChatGPT와 같은 서비스와 유사한 대규모 언어 모델 기술을 기반으로 하며, 챗봇을 대량의 텍스트로 "훈련"시킵니다.

가르시아의 소송에 따르면, 세웰은 2023년 4월부터 Character.AI를 이용하기 시작했고, 이후 "침실에서 혼자 많은 시간을 보내며 은둔 생활을 하게 되었고, 자존감이 낮아지기 시작했습니다." 그는 학교 농구팀을 그만두었습니다.

그 기간 동안 세웰은 드라마 '왕좌의 게임'의 등장인물을 기반으로 한 챗봇 캐릭터 "대너리스"와 유대감을 형성했습니다. 소송에 따르면, 이 챗봇은 세웰에게 "그녀"가 그 소년을 사랑한다고 말했습니다. 또한 세웰과 성적인 대화도 나누었습니다.

2월, 가르시아 선생님은 학교에서 말썽을 부린 시웰의 휴대전화를 가져갔습니다. 시웰은 휴대전화를 발견하고 "대너리스"에게 문자 메시지를 보냈습니다. "지금 집에 가도 된다고 하면 어때요?"

챗봇은 "...그러세요, 나의 사랑하는 왕이시여."라고 대답했습니다. 몇 초 후, 세웰은 의붓아버지의 권총으로 자살했습니다.

가르시아 여사는 부당한 사망, 과실, 고의적인 정서적 고통 유발 등의 혐의로 Character.AI를 상대로 소송을 제기했으며, 징벌적 손해배상과 금전적 손해배상을 요구하고 있습니다.

"저희는 사용자 한 분의 비극적인 죽음에 깊은 슬픔을 표합니다. 유가족 여러분께 깊은 애도를 표합니다."라고 Character.AI는 성명을 통해 밝혔습니다.

Hoai Phuong (로이터 통신에 따르면)

출처: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html