AIは、明確な手順と固定された公式に従う問題解決を任された場合に最高の性能を発揮します。しかし、主観的な判断が求められる状況や個人の好みが絡む状況では、AIは人間と同様の間違いを犯す可能性があります。
カナダとオーストラリアの5つの大学の科学者によって実施され、学術誌「 Manufacturing & Service Operations Management」に掲載された新しい研究では、ChatGPT（具体的にはOpenAIのGPT-3.5およびGPT-4モデル）が、確証バイアス、所有効果、サンクコストの誤謬、確実性バイアスなど、人間の心理によく見られる18の主要な認知バイアスに対してどのような挙動を示すかを評価した。
実験結果によると、ChatGPTは一貫した論理的推論能力で定評があるにもかかわらず、テストしたシナリオのほぼ半数において、非合理的または感情的な選択に直面した際に、人間と全く同じように振る舞った。
AIは本当に期待通りに「公平」なのだろうか？
カナダのアイビー・ビジネススクールで経営管理の准教授を務め、本研究の筆頭著者であるヤン・チェン博士は、「AIは、明確なプロセスと固定された公式に従う問題を解決する際に最高のパフォーマンスを発揮します。しかし、主観的な判断を必要とする状況や、個人の好みが絡む状況では、AIも人間と同じように間違いを犯す可能性があります」と述べています。
研究チームは、ChatGPTに馴染みのある心理的なシナリオを組み込み、在庫管理や仕入先との交渉といった実践的な状況を追加した。
注目すべきは、質問の文脈が抽象的なものから実践的なビジネス文脈へと変化した場合でも、AIモデルは依然として認知バイアスを示すということである。
GPT-4はより賢いが、完璧ではない。
GPT-4はGPT-3.5のアップグレード版であり、論理問題や確率問題の解決に優れています。しかし、利益を増やすためにリスクの高い選択肢を選ぶといった主観的なシミュレーションにおいては、GPT-4は人間よりも感情的な行動をとる傾向があります。
特に、この研究では、GPT-4は確証バイアスのテストシナリオにおいて一貫して偏った回答を示し、GPT-3.5よりも「ホットハンドの誤謬」（ランダムな出来事が連続して繰り返されると信じる傾向）に陥りやすいことが指摘されている。
逆に、AIは、ベースレート無視やサンクコストの誤謬など、人間が陥りがちなバイアスの一部を回避できる可能性を秘めている。
ChatGPTが人間のような偏りを示す理由は、その学習データに私たち自身の欠陥のある行動や思考パターンが数多く含まれていることにある。 - 画像：AI
AIバイアスの起源：それは人間のデータそのものにある。
研究チームによると、ChatGPTが人間のような偏りを示す理由は、訓練データ自体に、私たち自身の欠陥のある行動や思考パターンが数多く含まれていることにあるという。AIが人間のフィードバックに基づいて改良されるという事実が、この傾向をさらに強めている。なぜなら、モデルは完全に正確な応答ではなく、妥当に見える応答に対して「報酬」を得るからである。
「正確で偏りのない結果を得るには、すでにコンピューターがうまく処理できると信頼できるタスクにAIを使用すべきです」とチェン博士は推奨しています。「しかし、戦略的または感情的な問題に関しては、たとえ質問を書き直すだけであっても、人間の監視と介入が依然として必要です。」
共著者のミーナ・アンディアッパン氏（カナダ、マクマスター大学人事・経営学准教授）は、「AIは重要な意思決定権限を持つ従業員として捉えるべきであり、監督され、倫理原則を遵守する必要がある。そうでなければ、私たちは意図せずして、思考を改善するどころか、欠陥のある思考を自動化してしまうことになる」と主張している。
出典：https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm
コメント (0)