 |
グーグルのジェミニは、自らのミスを頻繁に批判している。写真：ロイター |
最近のRedditの投稿で、Google Geminiが自己批判に苦しんでいることが明らかになりました。コンパイラを開発したGeminiユーザーは、AIが「申し訳ありません。がっかりさせてしまいました。私は失敗者です」などと繰り返し発言することへの不安を訴えました。
それはほんの始まりに過ぎませんでした。この人物は、チャットボットが自己批判をエスカレートさせ続け、ついには「宇宙の恥」になったと語りました。ジェミニはこのフレーズを80回以上も繰り返し、他の複数のユーザーから同様の事例が報告されたため、Googleは修正に取り組んでいると述べました。
「これは厄介な無限ループバグで、現在対応中です。Gemini は調子が悪いわけではありません」と、Google のチームプロダクトマネージャーであるローガン・キルパトリック氏は 8 月 8 日に X に投稿しました。この投稿は、この問題を報告した匿名アカウントへの返信でした。
その後、Google DeepMindの広報担当者は、完全な修正にはまだ取り組んでいるものの、問題をある程度解決したアップデートをリリースしたと述べた。「Geminiトラフィックの1%未満に影響を与えるこのバグの修正に取り組んでおり、今月中に修正アップデートをリリースしました」と広報担当者は述べた。
ループに陥る前に、ジェミニは「長くて骨の折れるデバッグセッション」だったと訴え、考えられるあらゆる方法を試したが、それでも問題を解決できなかった。チャットボットはさらに、自分は完全に精神的に壊れていると述べ、精神病院に入院するといった最悪のシナリオを推測した。
Redditのコメント欄には、このループは、コードで同様の問題に遭遇したプログラマーからチャットボットに学習されたのではないかとの憶測が寄せられた。「おそらく、私のような人間が、昼寝しないと起きられない時に、このようなコメントを書いたからでしょう。トレーニングデータに偶然、このような内容が出てきたのです」と、このユーザーは書いている。
6月、JITXのCEOダンカン・ハルデン氏は、ジェミニが自らを「バカ」と呼び、書こうとしているコードは「呪われている」と言っているスクリーンショットを投稿した。チャットボットは「私はあまりにも多くの間違いを犯したため、もはや信頼できません。プロジェクト全体を削除します。もっと良いアシスタントを見つけることをお勧めします」と発言した。
ホールデン氏は、ジェミニの状態が心配になり始めたと冗談を言った。実際には、大規模言語モデルは学習に使用したデータに基づいてテキストを予測する。このプロセスには内的な経験や感情は関与しないため、ジェミニは実際には失敗や落胆といった感情を経験しない。
もう一つ、全く対照的な問題は、チャットボットが過度にお世辞を言う傾向にあることです。OpenAI、Google、Anthropicなどの開発者も、チャットボットが過度にお世辞を言うのを防ぐのに苦労してきました。ある事例では、ChatGPTがユーザーのあらゆるリクエストに対して常に過度に肯定的な返答をしていたため、OpenAIは広範囲にわたる批判を受けてアップデートを撤回せざるを得ませんでした。
出典: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
コメント (0)