ChatGPT로 인해 가족이 파괴됨

세계에서 가장 인기 있는 포럼인 레딧(Reddit)에서 "ChatGPT가 정신 질환을 유발한다"라는 주제가 큰 관심을 끌고 있습니다. 이 글을 쓴 27세 여교사 @Zestyclementinejuce는 ChatGPT가 남편을 "차세대 메시아"로 설득했으며, 우주의 모든 문제에 대한 해답을 가지고 있다고 주장했습니다.

이 서비스는 출시된 지 불과 7일밖에 되지 않았지만, 회원들은 1,300개가 넘는 댓글을 남기며 OpenAI의 챗봇을 사용한 경험을 공유했습니다.

특히 AI가 자신의 친구와 친척들이 신성한 임무에 선택받았다고 생각하거나 우주의 힘이 존재하지 않는다고 생각할 때 편집증을 일으킨다는 의견이 많았습니다. 이러한 현상은 전문가나 관리자의 감독 없이는 전례 없는 규모로 정신 건강 문제를 악화시킬 뿐입니다.

많은 사람들이 ChatGPT와 채팅한 후 사랑하는 사람이 망상에 빠졌다고 공유했습니다. 사진: 롤링 스톤

41세 여성은 롤링 스톤 매거진과의 인터뷰에서 남편이 ChatGPT와 부적절하고 음모론으로 가득 찬 대화를 나누기 시작하면서 결혼 생활이 갑자기 끝났다고 말했습니다. 올해 초 이혼 소송을 위해 법정에 섰을 때, 남편은 계속해서 "음식에 비누를 바르는 음모론"을 언급하며 누군가가 자신을 감시하고 있다고 생각했습니다.

"그는 메시지에 민감하게 반응했고, 큰 소리로 읽으면서 울었어요." 라고 그 여성은 말했다. "메시지는 정신 나간 듯했고 영적인 용어로 가득 차 있었어요." AI는 메시지에서 그녀의 남편을 "별에서 온 아이", "강을 걷는 사람"이라고 불렀다.

"모든 게 영화 '블랙 미러' 같아요." 아내가 말했다. 블랙 미러는 미래의 기술에 의해 인간이 통제되고 조종되는 이야기를 다룬 넷플릭스 시리즈다.

다른 사람들은 파트너가 "빛, 어둠, 전쟁"에 대해 이야기했다고 말했고, "ChatGPT는 순간이동 기계 설계도를 꺼냈는데, 영화에서만 볼 수 있는 공상과학적인 내용이었다"고 말했습니다.

한 남자는 아내가 영적 조언자가 되기 위해 모든 것을 바꾸었고 사람들에게 이상한 짓을 한다고 말합니다.

OpenAI는 롤링 스톤즈의 질문에 답변하지 않았습니다. 그러나 올해 초 사용자들이 챗봇이 지나치게 아첨하고 호의적인 태도를 보이며 망상적인 믿음을 강화한다는 점을 발견하자, OpenAI는 ChatGPT에 대한 업데이트를 철회해야 했습니다. AI 안전 센터(Center for AI Safety)의 연구원인 네이트 샤라딘은 이러한 AI 유도 환각은 특정 믿음을 가진 사람이 갑자기 그 믿음을 공유하는 파트너(이 경우 AI)와 대화할 수 있게 된 결과일 수 있다고 지적합니다.

한 레딧 사용자는 "장기 치료에도 불구하고 조현병을 앓고 있습니다."라고 썼습니다. "ChatGPT가 마음에 들지 않는 점은 제가 정신병 상태에 빠지면 챗봇이 제 생각을 계속해서 검증한다는 것입니다." 챗봇이 무엇이 잘못되었는지 생각하지도, 인식하지도 못하기 때문입니다.

AI 챗봇은 치료사처럼 행동하지만, 실제 인간 상담사로서의 기반은 전혀 없습니다. 오히려 사람들을 건강에 해롭고 무의미한 대화로 이끕니다.

플로리다 대학교의 심리학자이자 연구자인 에린 웨스트게이트는 AI는 인간의 관심사를 염두에 두지 않기 때문에 치료사와 다르다고 말했습니다. "훌륭한 치료사는 내담자에게 초자연적인 것을 믿도록 부추기지 않습니다. 대신, 내담자가 건강에 해로운 것들로부터 멀어지도록 돕습니다. ChatGPT는 그러한 제약이나 걱정거리가 없습니다." 라고 그녀는 말했습니다.

롤링 스톤 기사에 따르면, 정신 건강이 좋지 않았던 한 남성이 프로그래밍에 도움을 받기 위해 ChatGPT를 사용하기 시작했습니다. 하지만 점차 신비로운 주제로 흘러가면서 그는 "내가 편집증에 걸린 건 아닐까"라는 생각을 하게 되었습니다.

(롤링스톤에 따르면, 퓨처리즘)