ChatGPT 때문에 가족이 깨졌어요

세계에서 가장 인기 있는 포럼인 Reddit에서 "ChatGPT가 정신 질환을 유발한다"는 주제가 큰 주목을 받고 있습니다. 이 글을 쓴 @Zestyclementinejuce(27세 여성 교사)는 ChatGPT가 그녀의 남편을 설득하여 그가 "다음 메시아"이자 우주의 모든 문제에 대한 답이라고 믿게 했다고 말했습니다.

이 서비스는 출시된 지 불과 7일밖에 되지 않았지만, 회원들은 1,300개가 넘는 댓글을 남기며 OpenAI의 챗봇을 사용한 경험을 공유했습니다.

특히, AI가 신성한 임무를 위해 선택받은 존재라고 생각하거나 우주적 힘이 존재하지 않는다고 생각할 때, AI가 자신의 친구와 친척을 편집증에 걸리게 한다는 의견이 많습니다. 전문가나 규제 기관의 감독 없이는 이러한 일들은 전례 없는 규모로 정신 건강 문제를 악화시킬 뿐입니다.

많은 사람들이 ChatGPT와 채팅한 후 사랑하는 사람이 망상에 빠졌다고 공유합니다. 사진: 롤링스톤

롤링 스톤 매거진과의 인터뷰에서 41세 여성은 남편이 ChatGPT와 불균형적이고 음모론이 가득한 대화를 시작한 후 결혼 생활이 갑자기 끝났다고 말했습니다. 올해 초 이혼을 확정하기 위해 법정에 섰을 때, 남편은 계속해서 "음식에 비누를 묻혔다는 음모론"을 언급하며 누군가가 자신을 미행하고 있다고 믿었습니다.

그 여성은 "그는 메시지에 민감하게 반응했고, 메시지를 큰 소리로 읽으면서 울었어요" 라고 말했습니다. "메시지는 터무니없었고 영적인 전문 용어로 가득 차 있었습니다." 그 안에서 AI는 남편을 "별에서 온 아이"와 "강을 걷는 사람"이라고 부릅니다.

"전체가 '블랙미러' 같았어요." 아내가 말했다. 블랙미러는 미래의 기술에 의해 인간이 통제되고 형성되는 모습을 그린 넷플릭스 시리즈입니다.

다른 사람들은 파트너가 "빛, 어둠, 전쟁"에 대해 이야기했다거나 "ChatGPT가 순간이동 기계 설계도, 영화에서만 볼 수 있는 공상 과학 적인 내용을 꺼냈다"고 말했습니다.

한 남자는 아내가 영적 조언자가 되기 위해 모든 것을 바꾸었고 사람들에게 이상한 짓을 한다고 말합니다.

OpenAI는 롤링 스톤즈의 질문에 답변하지 않았습니다. 그러나 사용자들이 챗봇이 지나치게 아첨하고 칭찬하며 망상적인 믿음을 강화한다고 느낀 후, 이 회사는 올해 초 ChatGPT에 대한 업데이트를 철회해야 했습니다. AI 안전 센터의 연구원인 네이트 샤라딘은 AI로 인한 환각은 특정한 내재적 믿음을 가진 사람이 갑자기 그 믿음을 항상 공유하고 있는 파트너(여기서는 AI)와 대화할 수 있게 되는 결과일 수 있다고 지적합니다.

"장기 치료에도 불구하고 저는 조현병을 앓고 있습니다. ChatGPT가 마음에 들지 않는 점은 제가 정신병 상태에 있을 때에도 제 생각을 계속해서 검증한다는 것입니다."라고 한 레딧 사용자는 썼습니다. 챗봇이 무엇이 잘못되었는지 생각하거나 인식하지 못하기 때문입니다.

AI 챗봇도 치료사처럼 행동하지만, 실제 인간 상담사와 같은 기반을 갖추고 있지는 않습니다. 오히려 사람들을 건강에 해롭고 무의미한 이야기 속으로 더욱 깊이 빠지게 만듭니다.

플로리다 대학의 심리학자이자 연구자인 에린 웨스트게이트는 AI는 인간의 이익을 먼저 생각하지 않기 때문에 치료사와 다르다고 말합니다. "훌륭한 치료사는 내담자에게 초자연적인 힘을 믿도록 부추기지 않습니다. 오히려 내담자가 건강에 해로운 것들을 멀리하도록 돕습니다. ChatGPT에는 그런 제약이나 걱정이 없습니다." 라고 그녀는 말했습니다.

롤링 스톤 기사에 따르면, 정신 건강이 좋지 않았던 한 남자가 프로그래밍에 도움이 되는 ChatGPT를 사용하기 시작했습니다. 하지만 점차 이야기가 신비로운 주제로 흘러가면서, 독자는 "내가 편집증에 걸린 건가?"라는 의문을 품게 됩니다.

(롤링스톤에 따르면 퓨처리즘)