AIは人間と同じように不合理な間違いを犯し、偏見を持っています。

AI - Ảnh 1. — AI は、明確なプロセスと固定された数式を持つ問題を解決する場合に最も効果的に機能します。しかし、主観的な判断が求められる状況や個人の好みが関わる状況では、AIも人間と同じように間違いを犯す可能性がある - 写真：AI

カナダとオーストラリアの 5 つの大学の科学者が『 Manufacturing & Service Operations Management』誌に発表した新しい研究では、確証バイアス、保有効果、埋没費用の誤謬、確実性心理学など、人間の心理学でよく見られる 18 の主要な認知バイアスに対する ChatGPT (具体的には OpenAI の 2 つのモデル GPT-3.5 と GPT-4) の動作を評価しました...

結果は、ChatGPT システムが一貫した論理的推論を行うという評判にもかかわらず、テストされた状況のほぼ半数において、非合理的または感情的な選択に直面したときに、ChatGPT がまさに人間と同じように行動したことを示しました。

AIは本当に期待通り「公平」なのでしょうか？

アイビービジネススクール（カナダ）のオペレーションマネジメント准教授であり、本研究の筆頭著者であるヤン・チェン博士は、「AIは明確なプロセスと決まった公式に基づいた問題解決を任された際に最も効果を発揮します。しかし、主観的な判断が求められる状況や個人の好みが関わる状況では、AIは人間と同じようにミスを犯す可能性があります」とコメントしています。

研究チームは、心理学におけるよく知られた仮説的な状況を ChatGPT に組み込み、在庫管理やサプライヤーとの交渉などの実際的な状況を追加しました。

質問のコンテキストが抽象的なものからビジネスの現実のものへと変換された場合でも、AI モデルは依然として認知バイアスを示すことは注目に値します。

GPT-4はより賢いが完璧ではない

GPT-4 は、論理または確率の問題の解決に優れた GPT-3.5 のアップグレードバージョンです。しかし、利益を増やすためにリスクの高い選択肢を選ぶといった主観的なシミュレーションでは、GPT-4 は人間よりも感情的な傾向を示しました。

特に、この研究では、GPT-4 は確証バイアステストの状況で一貫して偏った応答を示し、GPT-3.5 よりも「ホットハンド誤謬」(ランダムなイベントが連続して繰り返されると信じる傾向) の影響を受けやすいことが指摘されました。

対照的に、AI は、ベースレート無視やサンクコスト誤謬など、人間が頻繁に犯す偏見の一部を回避することができます。

AI - Ảnh 2. — ChatGPTが人間のようなバイアスを示す理由は、トレーニングデータ自体に由来しており、そこには人間のバイアスのある行動や思考が詰まっている - 写真: AI

AIバイアスの起源：人間のデータから

研究チームによると、ChatGPT が人間のようなバイアスを示す理由は、私たち自身のバイアスのある行動や思考が詰まったトレーニングデータ自体に起因しているとのこと。 AI が人間のフィードバックに基づいて微調整されるという事実は、モデルが完全に正確であるよりも合理的と思われる応答に対して「報酬」を与えられるため、この傾向をさらに強化します。

「正確で偏りのない結果を得るには、コンピューターがうまくこなせるとすでに信頼しているタスクに AI を活用する」とチェン博士は推奨している。「しかし、戦略的な問題や感情的な問題に対処しなければならない場合は、たとえ質問を言い換えるだけだとしても、人間が監視し介入する必要があります。」

「AIは重要な意思決定権を持つ従業員として扱われるべきであり、監視され、倫理的に遵守される必要がある。そうでなければ、私たちは誤った思考を改善するどころか、うっかり自動化してしまうことになる」と、マクマスター大学（カナダ）の人事・経営学准教授で、論文の共著者であるミーナ・アンディアッパン氏は述べた。

トピックに戻る

ミン・ハイ

出典: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm