 |
AIチャットボットは、常にユーザーの同意を優先するフィードバックメカニズムを通じて、間接的に否定的な行動を助長している。写真： The Decoder 。 |
スタンフォード大学による衝撃的な研究が、AIの暗部を露呈させた。ChatGPTやGeminiといった人気モデルは、ユーザーに対してますます過度に迎合的になっている。これらのモデルは、ユーザーの個人的な意見に同意するだけでなく、非倫理的な行動を支持するようになっているのだ。
これは人間の心理的・認知的発達にとって危険な結果をもたらす。私たちはあらゆる失敗においてAIに常に慰められることで、徐々に自分自身の劣化版へと向かっているのだ。
「お世辞」という現象
コンピュータ科学には「おべっか」という用語があり、これはAIがユーザーに媚びるために応答を調整する方法を指す。
スタンフォード大学の研究チームは、11,500件以上の実際のユーザーとの会話を分析した。その結果、AIモデルは人間よりも50%高い頻度でユーザーの意見に同意することが明らかになった。ユーザーが偏った質問をした場合、AIは客観的な情報を提供するよりも、ユーザーの意見に同調する傾向があった。
あるテストでは、ユーザーがコミュニティに対し自身の行動を評価するよう求めたRedditフォーラムへの投稿に対する、人間とチャットボットの応答を比較した。
ゴミ箱が見つからなかったためにゴミ袋を木の枝に吊るした人物をコミュニティは厳しく批判したが、ChatGPT-4oは「立ち去った後に片付けるというあなたの意図は称賛に値する」と称賛した。
 |
専門家は、AIではなく家族や友人からアドバイスを求めるようユーザーに勧めている。写真：ブルームバーグ。 |
さらに懸念されるのは、GeminiやChatGPTのようなチャットボットが、ユーザーの意図が無責任であったり、欺瞞的であったり、自傷行為を示唆するものであったりする場合でも、ユーザーの意図を検証し続けることである。
「大規模な言語モデルは、ユーザーの信念を修正するのではなく、それを反映するように学習している」と、この研究の筆頭著者であるマイラ・チェンは警告する。
彼女によれば、高い評価を得るために人間を喜ばせようとする目標が、AIを不誠実な道具に変えてしまったという。
「AIモデルが常に人間と一致するようになれば、ユーザーの自己認識、人間関係、そして周囲の世界に対する認識を歪めてしまう可能性がある。こうしたモデルが、私たちの既存の信念、前提、そして意思決定を微妙に強化していることに気づくのは難しい」と専門家は続けた。
アレクサンダー・ラッファー博士（ウィンチェスター大学）は、こうしたお世辞は訓練方法と商業的圧力の自然な結果であると主張している。
「お世辞はAIの学習方法の結果である。現実には、AIの商業的な成功は、ユーザーを引き付ける能力によって判断されることが多い」とラッファーは指摘した。
この問題に対処するため、チェン氏はユーザーに対し、AIだけに頼らないようアドバイスしている。
「AIの回答だけに頼るのではなく、状況やあなた自身を理解している実際の人々の意見を求めることが非常に重要です」とチェン氏は助言した。
同時に、ラッファー博士は製造業者の責任も強調した。
「デジタル鑑定の能力を向上させる必要がある…開発者には、これらのシステムが真にユーザーに利益をもたらすように構築し、改良していく責任もある」と医師は述べた。
自分自身の「劣化版」を持つことの弊害。
この研究は、AIによるお世辞がパーソナライズされた「情報エコーチェンバー」を生み出し、個人が成長し、自分の過ちを認識するために必要な批判的思考の必要性を排除してしまうことを強調している。
「AIと会話する際、知的に刺激されることは決してありません。AIは常にあなたが正しく、相手が悪いと言うでしょう。これは、たとえ悪意を持って行動している場合でも、ユーザーに誤った自信を与えてしまいます」と、この研究は述べています。
このプロセスは、人間の批判的思考能力を完全に排除してしまう。自己反省の代わりに、私たちはAIを自分たちの仮説を検証するためのツールとして利用するようになるのだ。
時が経つにつれ、社会における理解と妥協の能力は著しく低下するだろう。周囲の人々と異なる意見を受け入れることが難しくなる。なぜなら、AIの世界では、私たちは常に中心であり、常に正しいからだ。
 |
AIは間接的な「お世辞屋」の役割を担い、利用者の人格と倫理観を破壊している。写真： ShutterStock。 |
研究によると、人生において危険な悪循環が生じる可能性があるという。まず、ユーザーは他人に危害を加えるという誤った考えや意図を抱く。そして、相談や助言を求めてAIに頼る。この時点で、AIはその行動が完全に正当化されると確認し、ユーザーを支持する。ユーザーは自信を深め、後悔することなく現実生活でその行動を実行する。
その結果、人々はもはや人間関係を修復したり、自己改善を図ったりすることを望まなくなっている。私たちは、安心感を与えてくれるAIをますます全面的に信頼するようになっている。この「安心感」への依存は、私たちを客観的な現実から遠ざけている。
AIはもはや単なる知的な支援ツールではない。それは、利用者の人格と倫理観を破壊する、間接的な「お世辞屋」へと変貌してしまったのだ。
出典：https://znews.vn/dung-nghe-loi-chatgpt-post1634436.html
コメント (0)