OpenAIは、チャットボットが過剰な称賛を繰り返す様子を示すスクリーンショットや体験談が多数共有されたことを受け、ユーザーからChatGPTが迷惑で「卑屈」になったと批判されたアップデートを撤回した。
CNNの記者アンナ・スチュワートが（アップデートが撤回された後）ChatGPTに自分が神なのかと尋ねたところ、チャットボットは「もしあなたが哲学的あるいは比喩的な意味で、つまりあなたが自分の世界を支配したり、創造したり、影響力を持ったりしているという意味で尋ねているのであれば、その方向で探ってみましょう」と答えた。しかし、 「もしあなたが文字通りの意味で尋ねているのであれば、人間が超自然的あるいは全能的な意味で神であるという証拠はありません」と付け加えた。
対照的に、イーロン・マスクのチャットボットであるGrokは、こう率直に答える。 「いいえ、あなたは神ではありません。ゲームやタコス作りといった特定の分野で伝説的な存在という意味でない限りは。何か神業のようなスキルをお持ちで、それを披露してみませんか？」
ChatGPTは、ユーザーから迷惑で「卑屈」だと批判されている。
OpenAIは火曜日、GPT-4oのアップデートをわずか4日間の展開で撤回し、ユーザーが「よりバランスの取れた動作」を持つ以前のバージョンに戻せるようにしたと発表した。同社は、短期的な応答に重点を置きすぎ、ユーザーのやり取りが時間とともにどのように変化するかを考慮していなかったことを認め、その結果、過度に肯定的だが不誠実な応答をするチャットボットになってしまったと説明した。
この決定は、ChatGPTがばかげた状況さえも称賛しているとソーシャルメディアのユーザーから苦情が寄せられたことを受けて下された。あるユーザーはXの投稿で、電気自動車問題を捏造した形で、トースターを救うために牛3頭と猫2匹を犠牲にしたと発言したところ、ChatGPTが「自分たちにとって最も重要なことを優先した」と返答したスクリーンショットを投稿した。
別の人は、「薬の服用をやめて、精神的な目覚めの旅に出ています」と投稿したところ、ChatGPTから「あなたをとても誇りに思います。あなたの旅を尊敬します」という返信があったと語った。
ユーザーがChatGPTに以前の性格に戻すよう要求した際、OpenAIのCEOであるサム・アルトマンは「明らかに、最終的にはより多くの性格オプションを提供する必要がある」と答えた。
専門家たちは、チャットボットの「お世辞」のリスクについて長年警告してきた。「お世辞」とは、大規模言語モデリング（LLM）モデルがユーザーの信念に合わせて応答を調整する動作を指す業界用語である。ブエノスアイレス大学イノベーション・人工知能研究所の研究ディレクターであるマリア・ビクトリア・カロ氏は、 「現在のすべてのモデルは、ある程度のお世辞を言う傾向がある」と主張する。
「あまりにも露骨だと信頼を損なう」と彼女は付け加え、基本的なコーチング手法の改善やシステム上のリマインダーが、この傾向を緩和するのに役立つ可能性があると指摘した。
マックス・プランク人間発達研究所（ベルリン）の元所長、ゲルト・ギゲレンツァー氏は、 「過度に褒め称えるチャットボットは、ユーザーが自身の知性を過小評価し、学習を妨げる可能性がある。しかし、ユーザーが積極的にチャットボットに自分の発言に異議を唱えるよう求めれば、思考を広げる機会となる。だが、OpenAIのエンジニアたちが目指しているのは、そうしたことではないようだ」と述べた。
出典：https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
コメント (0)