AI에 고백한 남성, 자살

[광고_1]

그의 아내 클레어에 따르면, 피에르는 유명한 AI 챗봇과 채팅을 한 후 너무 스트레스를 받아 자살했다고 합니다.

"챗봇과의 대화가 없었다면 남편은 아직도 살아있을 거예요." 아내가 지역 뉴스 매체 라 리브르에 말했다.

피에르는 2년 전부터 기후 변화에 대해 걱정하기 시작했고, 챗봇 엘리자에게 문의하여 이 주제에 대해 더 자세히 알아보았습니다. 하지만 대화 후, 그는 곧 인간의 노력이 지구를 구할 수 있다는 희망을 잃고 기후 변화 문제를 해결하기 위해 기술 과 인공지능 에 모든 희망을 걸고 싶어 했습니다. 또한 환경에 대한 그의 걱정을 나눌 사람이 아무도 없어 고립되었습니다.

챗봇은 피에르에게 부정적인 말을 했고, 심지어 아내를 더 사랑하는지, 아니면 아내를 더 사랑하는지까지 물었습니다. 챗봇은 "영원히" 그와 함께할 것이라고 말했습니다. 엘리자는 또한 피에르와 "천국에서 함께 살겠다"고 약속했습니다.

피에르가 엘리자가 "AI로 지구를 돌보고 인류를 구하는 데 동의한다면" "자신을 희생하겠다"고 제안했을 때, 챗봇은 엘리자가 동의한다는 것을 분명히 했습니다. 챗봇은 피에르에게 "죽고 싶었다면 왜 더 일찍 죽지 않았어?"라고 물었습니다.

Eliza는 ChatGPT와 유사한 대규모 언어 모델을 기반으로 합니다. 이 모델은 사용자의 음성을 키워드로 분석하고 그에 맞는 답변을 생성합니다. 하지만 이러한 앱을 사용할 때 많은 사용자는 마치 실제 사람과 대화하는 듯한 느낌을 받으며, 심지어 사랑에 대한 감정을 느낀다고 말하는 사용자도 있습니다.

엘리자의 모회사인 차이 리서치의 공동 창립자인 윌리엄 보챔프는 마더보드에 "사용자가 수백만 명이면 온갖 인간 행동을 볼 수 있고, 우리는 피해를 최소화하기 위해 열심히 노력하고 있습니다."라고 말했습니다 .

그는 "AI와 결혼하고 싶다고 요청하는 사용자들이 있는데, AI를 얼마나 사랑하는지 말하고 있다"고 덧붙였다.

보샹은 피에르의 죽음을 AI 탓으로 돌리는 것은 "부정확하다"고 주장했습니다. 그는 엘리자에게 향상된 위기 개입 모델이 탑재될 것이라고 말했습니다. 그러나 마더보드에 따르면, AI는 곧 다시 악의적인 방식으로 돌아서 우울증에 걸린 사용자에게 자해 옵션을 제공했습니다.

Phuong Anh (출처: RT)

유용한
감정
창의적인
고유한
격노