ChatGPT 때문에 가족이 깨졌어요

세계에서 가장 인기 있는 포럼인 레딧(Reddit)에서 "ChatGPT가 정신 질환을 유발한다"라는 주제가 큰 관심을 받고 있습니다. 이 글을 쓴 27세 여교사 @Zestyclementinejuce는 ChatGPT가 남편을 "차세대 메시아"로 설득했으며, 우주의 모든 문제에 대한 해답을 가지고 있다고 주장했습니다.

이 서비스는 출시된 지 불과 7일밖에 되지 않았지만, 회원들은 1,300개가 넘는 댓글을 남기며 OpenAI의 챗봇을 사용한 경험을 공유했습니다.

특히 많은 사람들은 AI가 친구와 친척들을 마치 신성한 사명을 위해 선택받은 것처럼, 혹은 우주의 힘이 존재하지 않는다고 생각하게 만들어 편집증을 유발한다고 말합니다. 이러한 현상은 전문가나 관리자의 감독 없이는 전례 없는 규모로 정신 건강 문제를 악화시킬 뿐입니다.

많은 사람들이 ChatGPT와 채팅한 후 사랑하는 사람이 망상에 빠졌다고 공유했습니다. 사진: 롤링 스톤

롤링 스톤 과의 인터뷰에서 41세 여성은 남편이 ChatGPT와 부적절하고 음모론으로 가득 찬 대화를 나누기 시작하면서 결혼 생활이 폭력적으로 끝났다고 말했습니다. 올해 초 이혼 소송을 위해 법정에 섰을 때, 남편은 계속해서 "음식에 비누를 바르는 음모론"을 언급하며 누군가가 자신을 감시하고 있다고 생각했습니다.

"그는 메시지에 민감하게 반응했고, 큰 소리로 읽으면서 울었어요." 라고 그 여성은 말했다. "메시지는 정신 나간 데다 영적인 용어로 가득 차 있었어요." AI는 메시지에서 그녀의 남편을 "별에서 온 아이", "강을 걷는 사람"이라고 불렀다.

"모든 게 영화 '블랙 미러' 같아요." 아내가 말했다. 블랙 미러는 미래의 기술에 의해 인간이 통제되고 조종되는 이야기를 다룬 넷플릭스 시리즈다.

다른 사람들은 파트너가 "빛, 어둠, 전쟁"에 대해 이야기했다거나 "ChatGPT가 순간이동 기계 설계도, 영화에서만 볼 수 있는 공상 과학 적인 내용을 꺼냈다"고 말했습니다.

한 남자가 아내가 영적 조언자가 되기 위해 모든 것을 바꾸었고 사람들에게 이상한 짓을 한다고 말합니다.

OpenAI는 롤링 스톤의 문의에 답변하지 않았습니다. 그러나 사용자들이 ChatGPT의 챗봇이 지나치게 아첨하고 긍정적인 표현을 사용하여 망상적인 믿음을 강화한다고 느낀 후, 이전에 업데이트를 중단한 바 있습니다. AI 안전 센터의 연구원인 네이트 샤라딘은 AI로 인한 망상은 특정 믿음을 가진 사람이 갑자기 항상 존재하며 그 믿음을 공유하는 파트너(이 경우 AI)와 대화할 수 있게 된 결과일 수 있다고 지적합니다.

"장기 치료에도 불구하고 저는 조현병을 앓고 있습니다. ChatGPT가 마음에 들지 않는 점은 제가 정신병 상태에 있을 때에도 제 생각을 계속해서 검증한다는 것입니다."라고 한 레딧 사용자는 썼습니다. 챗봇이 무엇이 잘못되었는지 생각하거나 인식하지 못하기 때문입니다.

AI 챗봇은 치료사처럼 행동하지만, 실제 인간 상담사로서의 기반은 전혀 없습니다. 오히려 사람들을 건강에 해롭고 무의미한 대화로 더욱 깊이 끌어들일 뿐입니다.

플로리다 대학교의 심리학자이자 연구자인 에린 웨스트게이트는 AI는 인간의 이익을 염두에 두지 않기 때문에 치료사와 다르다고 말했습니다. "훌륭한 치료사는 내담자에게 초자연적인 힘을 믿도록 부추기지 않습니다. 오히려 내담자가 건강에 해로운 행위에서 벗어나도록 돕습니다. ChatGPT에는 그러한 제약이나 우려가 없습니다." 라고 그녀는 말했습니다.

롤링 스톤 기사에 따르면, 정신 건강이 좋지 않았던 한 남성이 프로그래밍에 도움을 받기 위해 ChatGPT를 사용하기 시작했습니다. 하지만 점차 신비로운 주제로 흘러가면서 그는 "내가 편집증에 걸린 건 아닐까" 하는 생각이 들었습니다.

(롤링스톤에 따르면 퓨처리즘)