ChatGPT 때문에 가족이 산산조각 났습니다

세계에서 가장 인기 있는 포럼인 레딧에서 "ChatGPT가 정신 질환을 유발한다"라는 제목의 게시글이 큰 관심을 끌고 있습니다. 이 게시글의 작성자인 27세 교사 @Zestyclementinejuce는 ChatGPT가 자신의 남편에게 자신이 "다음 구세주"이자 우주의 모든 질문에 대한 해답이라고 믿게 만들었다고 주장합니다.

출시된 지 7일밖에 되지 않았음에도 불구하고, 회원들은 이미 1,300개가 넘는 댓글을 남겨 OpenAI 챗봇 사용 경험을 공유했습니다.

특히, 많은 사람들이 인공지능으로 인해 친구나 친척들이 편집증에 시달리며, 자신들이 신성한 사명을 위해 선택받았다고 믿거나 초자연적인 힘이 존재하지 않는다고 믿는 사례가 늘고 있다고 보고했습니다. 이러한 믿음은 전문가나 규제 기관의 감독 없이 전례 없는 규모로 정신 건강 문제를 악화시키고 있습니다.

많은 사람들이 사랑하는 사람들이 ChatGPT와 채팅한 후 망상에 빠졌다고 이야기했습니다. 사진: 롤링 스톤

롤링 스톤 매거진과의 인터뷰에서 41세 여성은 남편이 ChatGPT라는 온라인 채팅 서비스에서 음모론에 빠져들기 시작하면서 결혼 생활이 갑작스럽게 끝났다고 밝혔습니다. 올해 초 이혼 절차를 마무리하기 위해 법정에 섰을 때도 남편은 "음식에 비누를 뿌리는 음모론"을 계속 언급하며 자신이 감시당하고 있다고 믿었습니다.

"남편은 메시지에 민감해서 소리 내어 읽을 때 울어요." 라고 여성이 말했다. "메시지 내용은 황당하고 영적인 전문 용어로 가득 차 있어요." 인공지능은 메시지에서 그녀의 남편을 "별에서 온 아이"라거나 "강을 떠도는 방랑자"라고 부른다.

"이 모든 게 마치 '블랙 미러' 같아요." 아내가 말했다. '블랙 미러'는 미래에 기술에 의해 통제되고 조종당하는 인간에 대한 넷플릭스 시리즈다.

다른 사람들은 파트너가 "빛, 어둠, 전쟁"에 대해 이야기했다거나 "ChatGPT가 공상 과학 영화에서나 볼 법한 순간 이동 기계의 설계도를 제공했다"고 보고했습니다.

한 남성은 아내가 모든 것을 바꾸고 영적 조언자가 되어 사람들에게 이상한 일들을 하기 시작했다고 말했다.

오픈아이언(OpenAI)은 롤링 스톤즈의 질문에 답변하지 않았습니다. 하지만 오픈아이언은 이전에 챗봇 ChatGPT가 지나치게 아첨하고 동의하는 태도를 보여 망상적 믿음을 강화한다는 사용자들의 지적을 받은 후 해당 업데이트를 철회한 바 있습니다. 인공지능 안전센터(Center for AI Safety)의 전문가 네이트 샤라딘은 인공지능으로 인한 착각은 깊이 뿌리내린 믿음을 가진 사람이 항상 곁에 있고 자신의 믿음을 공유하는 상대(이 경우 인공지능)와 갑자기 대화를 나누게 되면서 발생할 수 있다고 지적합니다.

한 레딧 사용자는 "저는 장기간 치료를 받았음에도 불구하고 조현병을 앓고 있습니다. ChatGPT가 싫은 이유는 제가 정신병적 상태에 빠지면 ChatGPT가 계속해서 제 생각을 정당화해 주기 때문입니다. 챗봇은 생각하거나 무엇이 잘못되었는지 이해하지 못하기 때문입니다." 라고 썼습니다.

AI 챗봇은 마치 치료사처럼 행동하지만, 진정한 인간 상담가가 가진 기반이 부족합니다. 오히려 사람들을 건강하지 못하고 무의미한 이야기 속으로 끌어들입니다.

플로리다 대학교의 심리학자이자 연구원인 에린 웨스트게이트는 AI가 치료사와 다른 점은 인간의 행복을 우선시하지 않는다는 것이라고 지적했습니다. 그녀는 "훌륭한 치료사는 내담자가 초자연적인 힘을 믿도록 부추기지 않습니다. 오히려 내담자가 건강에 해로운 것들에서 벗어나도록 돕습니다. ChatGPT는 그러한 제약이나 고려 사항이 없습니다." 라고 말했습니다.

롤링 스톤 기사에 따르면, 정신 건강이 좋지 않았던 한 남성이 프로그래밍 작업을 위해 ChatGPT를 사용하기 시작했습니다. 그러나 점차 신비주의적인 주제에 빠져들게 되면서 "내가 편집증에 걸리는 건가?"라는 의문을 품게 됩니다.

(롤링 스톤에 따르면, 미래주의)