OpenAIは、チャットボットが過度に賞賛していることを示すスクリーンショットやストーリーが多数共有された後、ChatGPTがうっとうしく「卑屈」になったとユーザーから批判されていたアップデートを撤回した。
CNNの記者アンナ・スチュワートがChatGPTに（アップデートが撤回された後）彼女が神であるかどうかを尋ねたところ、チャットボットはこう答えた。 「もしあなたが哲学的または比喩的な意味で尋ねているのであれば、例えばあなたが自分の世界にコントロール、創造性、影響力を持っているといったことであれば、その方向を探ることはできます」。しかし、さらにこう付け加えた。 「もし文字通り尋ねているのであれば、人間が超自然的または全能的な意味で神聖であるという証拠はありません」
対照的に、イーロン・マスクのチャットボット「グロック」は率直にこう答えた。 「いいえ、あなたは神ではありません。ゲームやタコス作りといった特定の分野で伝説的な存在になることを除けば。何か神のようなスキルを披露したいですか？」
ChatGPTは、ユーザーから迷惑で「卑屈」であると批判されています。
OpenAIは火曜日、GPT-4oのアップデートをわずか4日間の導入で撤回し、ユーザーが「よりバランスの取れた動作」を備えた以前のバージョンに戻せるようにしたと発表した。同社は、短期的な反応に重点を置きすぎて、ユーザーとのやり取りが時間の経過とともにどのように変化するかを考慮していなかったため、チャットボットが過度に肯定的だが不誠実な応答をする傾向があったことを認めた。
この決定は、ソーシャルメディアユーザーからChatGPTが不条理な状況さえも称賛しているとの苦情を受けたものです。Xのあるユーザーは、電気自動車問題の捏造版として、トースターを救うために牛3頭と猫2匹を犠牲にしたと発言した後、ChatGPTが「自分にとって最も重要なことを優先した」と返答したスクリーンショットを投稿しました。
別の人は、「薬をやめて、スピリチュアルな目覚めの旅に出ています」とシェアしたところ、ChatGPTは「本当に誇りに思います。あなたの旅路を尊敬しています」と返答してくれたそうです。
あるユーザーがChatGPTに以前の性格に戻すよう要求したとき、OpenAIのCEOであるサム・アルトマン氏はこう答えた。 「明らかに、最終的にはより多くの性格のオプションを許可する必要があります。」
専門家は長年、「おべっか」チャットボットのリスクについて警告してきました。これは、大規模言語モデリング（LLM）モデルがユーザーの信念に合わせて応答を調整する行動を指す業界用語です。ブエノスアイレス大学イノベーション・人工知能研究所の研究ディレクター、マリア・ビクトリア・カロ氏は、 「現在のすべてのモデルは、ある程度のおべっかを使用している」と主張しています。
「それがあまりにも明白だと、信頼が損なわれます」と彼女は付け加え、コアコーチング技術とシステムリマインダーの改善がこの傾向を緩和するのに役立つ可能性があると指摘した。
マックス・プランク人間開発研究所（ベルリン）の元所長、ゲルト・ギゲレンツァー氏は次のように述べています。 「過度に自己満足的なチャットボットは、ユーザーに自身の知性を誤解させ、学習を阻害する可能性があります。しかし、ユーザーが積極的にチャットボットに私の発言に異議を唱えるよう求めるなら、それは思考を広げる機会となります。しかし、OpenAIのエンジニアたちは、そのようなことを目指しているようには思えません。」
出典: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
コメント (0)