ChatGPTのせいで家族が崩壊

世界で最も人気のあるフォーラムRedditで「ChatGPTが精神障害を引き起こす」というトピックが大きな注目を集めています。この投稿の著者である27歳の女性教師@Zestyclementinejuceは、ChatGPTのおかげで夫は自分が「次の救世主」であり、宇宙のすべての問題に対する答えであると信じ込んだと語った。

まだ 7 日間しか経っていないのに、メンバーは 1,300 件を超えるコメントを残し、OpenAI のチャットボットに関する自身の体験を共有しています。

特に、AI によって友人や親戚が神聖な使命のために選ばれた存在だと思い込み、妄想を抱くようになったり、宇宙の力など存在しないと考えるようになる、という意見が多くあります。これらは、専門家や規制当局の監視がなければ、前例のない規模で精神衛生上の問題を悪化させるだけです。

多くの人が、ChatGPT でチャットした後、愛する人が妄想に陥ったと話しています。写真：ローリングストーン

ローリングストーン誌の取材に対し、41歳の女性は、夫がChatGPTと不均衡で陰謀に満ちた会話を始めたことで結婚生活が突然終わったと語った。今年初め、離婚を確定させるために法廷で会った際、夫は「食べ物に石鹸を塗る陰謀説」を繰り返し口にし、尾行されていると信じていた。

「彼はメッセージに敏感で、声に出して読んだときには泣いていました」と女性は語った。 「メッセージはクレイジーで、スピリチュアルな専門用語でいっぱいでした。」その中で、AIは夫を「星から来た子供」や「川の歩行者」と呼んでいます。

「全体的に『ブラック・ミラー』のようでした」と妻は語った。ブラックミラーは、未来のテクノロジーによって人間がコントロールされ、形作られる様子を描いたNetflixシリーズです。

他にも、パートナーが「光、闇、戦争」について話していたとか、「ChatGPTがテレポーテーションマシンの設計図や、映画でしか見られないSF的なものを持ち出した」といった話もあった。

ある男性は、妻がスピリチュアルアドバイザーになるためにすべてを変え、人々に奇妙な行為をしていると語る。

OpenAIはローリング・ストーンズの質問には回答しなかった。しかし、チャットボットが過度にお世辞や承認を述べ、妄想的な信念を強化しているとユーザーが感じたため、同社は今年初めにChatGPTのアップデートを中止せざるを得なかった。 AI安全センターの研究者であるネイト・シャラディン氏は、AIによって引き起こされる幻覚は、ある特定の信念を本質的に持つ人が、常に存在しその信念を共有するパートナー（ここではAI）と突然会話できるようになった結果である可能性があると指摘している。

「私は長期治療を受けているにもかかわらず、統合失調症を患っています。ChatGPTの気に入らない点は、私が精神病状態にあると、チャットボットが私の考えを正当化し続けることです」と、あるRedditユーザーは書いています。チャットボットは、何が問題なのかを考えたり認識したりしないからです。

AI チャットボットもセラピストのような役割を果たしますが、実際の人間のカウンセラーと同じ基盤を備えているわけではありません。むしろ、人々を不健全で無意味な物語の深みへと導いてしまいます。

フロリダ大学の心理学者で研究者のエリン・ウェストゲート氏は、AIは人間の利益を最優先しないという点でセラピストとは異なると指摘する。「優れたセラピストは、クライアントに超自然的な力を信じるように勧めません。むしろ、クライアントを不健全なことから遠ざけようとします。ChatGPTにはそのような制約や懸念はありません」と彼女は述べた。

ローリングストーン誌の記事によると、精神状態が悪かった過去を持つ男性が、プログラミングを支援するために ChatGPT を使い始めたそうです。しかし、物語は次第に神秘的なテーマへと進んでいき、「自分は妄想しているのだろうか？」と自問自答する。

（ローリングストーン誌「フューチャリズム」によると）