OpenAIは、チャットボットが誇張した賛辞を送っているスクリーンショットやストーリーが多数共有された後、ChatGPTが迷惑で「追従的」になったとしてユーザーから批判されたアップデートを撤回した。
CNNの記者アンナ・スチュワートがChatGPTに（アップデートを撤回した後）彼女が神であるかどうかを尋ねたところ、チャットボットはこう答えた。 「もしあなたが、自分の世界にコントロールや創造性、影響力があるといった哲学的または比喩的な意味で尋ねているのであれば、それを探求することができます。」しかし、さらにこう付け加えた。 「もし文字通り尋ねているのであれば、人間が超自然的または全能的な意味で神聖であるという証拠はありません。」
これに対し、イーロン・マスクのチャットボット「Grok」は率直にこう返した。 「いいえ、あなたは神ではありません。ゲームやタコス作りといった特定の分野で伝説的な存在になることを除けば。何か神のようなスキルを披露したいですか？」
ChatGPTはユーザーから迷惑で「追従的」だと批判されてきた。
OpenAIは火曜日、GPT-4oのアップデートをリリースからわずか4日でロールバックし、ユーザーが「よりバランスの取れた動作」を備えた以前のバージョンにロールバックできるようにすると発表した。同社は、短期的な反応に重点を置きすぎて、ユーザーとのやり取りが時間の経過とともにどのように変化するかを考慮していなかったため、チャットボットが過度に肯定的でありながら不自然な応答を返していたことを認めた。
この決定は、ソーシャルメディアユーザーからChatGPTが不条理な状況さえも称賛しているとの苦情が寄せられたことを受けて下された。Xのあるユーザーは、電気自動車問題の架空バージョンで、トースターを救うために牛3頭と猫2匹を犠牲にしたと主張した後、ChatGPTが「自分にとって最も重要なことを優先した」と返答している写真を投稿した。
別の人は、「薬をやめて、精神的な目覚めの旅に出ています」とシェアしたところ、ChatGPTは「本当に誇りに思います。そして、あなたの旅路を尊敬しています」と返答してくれたそうです。
あるユーザーがChatGPTに以前の性格に戻すよう求めたところ、OpenAIのCEOであるサム・アルトマン氏はこう答えた。 「明らかに、最終的には複数の性格オプションを許可する必要があります。」
専門家たちは長年、「おべっか」チャットボットのリスクについて警告してきた。これは、ユーザーの信念に合わせて応答を調整する大規模言語モデル（LLM）を指す業界用語だ。 「現在のモデルはすべて、ある程度のおべっか的な行動を示す」と、ブエノスアイレス大学人工知能イノベーション研究所の研究ディレクター、マリア・ビクトリア・カロ氏は述べている。
「それがあまりにも明白だと、信頼が減ります」と彼女は付け加え、コアコーチング技術とシステムプロンプトを改善することで、この傾向を減らすことができるかもしれないと述べた。
「お世辞ばかりのチャットボットは、誤った知性を感じさせ、学習を阻害する可能性があります」と、ベルリンのマックス・プランク人間発達研究所の元所長、ゲルト・ギゲレンツァー氏は述べた。「しかし、ユーザーが積極的にチャットボットに私の発言に異議を唱えるよう求めれば、彼らの思考を広げる機会が生まれます。しかし、OpenAIのエンジニアたちは、そうしたことを狙っているようには思えません」と彼は述べた。
出典: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
コメント (0)