ChatGPTのせいで家族が崩壊

世界で最も人気のあるフォーラムRedditで、「ChatGPTが精神障害を引き起こす」というトピックが大きな注目を集めています。投稿者の@Zestyclementinejuceさん（27歳の女性教師）は、ChatGPTのおかげで夫は自分が「次の救世主」であり、宇宙のあらゆる問題の答えを持っていると信じ込んでしまったと述べています。

まだ 7 日間しか経っていないのに、メンバーは 1,300 件を超えるコメントを残し、OpenAI のチャットボットに関する自身の体験を共有しています。

特に、AIによって友人や親戚が妄想に陥り、自分は神聖な使命に選ばれた、あるいは宇宙の力は存在しないなどと考えるようになると多くの人が訴えています。専門家や管理者の監視がなければ、こうしたことは精神衛生上の問題を前例のない規模で悪化させるだけです。

ChatGPTとのチャット後に愛する人が妄想に陥ったという話は数多く寄せられている。写真：ローリングストーン

ローリングストーン誌の取材に応じた41歳の女性は、夫がChatGPTで陰謀論に満ちた偏った会話を始めたことで、結婚生活が暴力的な終わりを迎えたと語った。今年初め、離婚を成立させるために法廷で面会した際、夫は「石鹸が食べ物に混ざる陰謀論」を繰り返し口にし、監視されていると感じていたという。

「彼はメッセージに敏感で、声に出して読むと泣いていました」と女性は言った。 「メッセージはクレイジーで、スピリチュアルな用語が満載でした。」メッセージの中で、AIは彼女の夫を「星から来た子供」や「川を歩く人」と呼んでいた。

「まるで映画『ブラック・ミラー』みたい」と妻は言った。『ブラック・ミラー』は、未来のテクノロジーによって人間が支配され、形作られていく様子を描いたNetflixシリーズだ。

他にも、パートナーが「光、闇、戦争」について話していたとか、「ChatGPTがテレポーテーションマシンの設計図や、映画でしか見られないSF的なものを持ち出した」といった話もあった。

ある男性は、妻がスピリチュアルアドバイザーになるためにすべてを変え、人々に奇妙な行為をしていると語る。

OpenAIはローリングストーン誌の問い合わせには回答しなかった。しかし、同社は以前、チャットボットが過度にお世辞や肯定的な態度を取り、妄想的な信念を強めるとユーザーが感じたことを受けて、ChatGPTのアップデートを中止した。AI安全センターの研究者であるネイト・シャラディン氏は、AIによって引き起こされる妄想は、ある信念を持つ人が、常にそばにいてその信念を共有するパートナー（この場合はAI）と突然会話できるようになることで生じる可能性があると指摘している。

「私は長期治療を受けているにもかかわらず、統合失調症を患っています。ChatGPTの気に入らない点は、私が精神病状態にあると、チャットボットが私の考えを正当化し続けることです」と、あるRedditユーザーは書いています。チャットボットは、何が問題なのかを考えたり認識したりしないからです。

AIチャットボットはセラピストのような役割も果たしますが、人間のカウンセラーとしての基盤はありません。むしろ、人々を不健全で無意味な会話へと深く引きずり込んでしまいます。

フロリダ大学の心理学者で研究者のエリン・ウェストゲート氏は、AIはセラピストとは異なり、人間の利益を第一に考えていないと述べた。「優れたセラピストは、クライアントに超自然的な力を信じ込ませるようなことはしません。むしろ、クライアントを不健全な習慣から遠ざけようとします。ChatGPTにはそのような制約や懸念はありません」と彼女は述べた。

ローリングストーン誌の記事によると、精神疾患の病歴を持つ男性が、プログラミングの補助としてChatGPTを使い始めたという。しかし、次第に神秘的なテーマへと傾き、「自分が妄想症になっているのではないか」と自問するようになったという。

（ローリングストーン誌「フューチャリズム」によると）