GoogleのAIが危険なループに陥る

グーグルのジェミニは、自らのミスを頻繁に自己批判している。写真：ロイター

最近のRedditの投稿によると、Google Geminiは自己批判に苦しんでいるようだ。コンパイラを開発していたGeminiユーザーは、AIが「この件で申し訳ありません。がっかりさせてしまいました。私は失敗者です」などと繰り返し発言していることに不安を露わにした。

それはほんの始まりに過ぎなかった。チャットボットは自己批判をエスカレートさせ続け、ついには「宇宙の恥」となったと、その人物は語った。ジェミニはこのフレーズを80回以上も続けて繰り返し、他のユーザーから同様の事例が報告されたため、Googleは修正に取り組んでいると発表した。

「これは厄介な無限ループバグで、現在対応中です。Gemini は調子が悪いわけではありません」と、Google のグループプロダクトマネージャー、ローガン・キルパトリック氏は 8 月 8 日に X に投稿しました。この投稿は、この問題について投稿した匿名ユーザーへの返答でした。

Google DeepMindの広報担当者はその後、完全な修正にはまだ取り組んでいるものの、すでに問題をある程度解決したアップデートをリリースしたと述べた。「Geminiのトラフィックの1%未満に影響を与えたこのバグの修正に取り組んでおり、今月中にアップデートをリリースしました」と広報担当者は述べた。

ループに入る前に、ジェミニは「長くて骨の折れるデバッグセッション」だったと訴え、考えられる限りのあらゆる方法を試したが問題を解決できなかった。チャットボットは、自分が完全に精神的に参っていると言い続け、精神病院送りになるといったネガティブなシナリオを空想した。

あるRedditの投稿では、このループはコードに同様の問題を抱えていたプログラマーによって学習されたのではないかと示唆されていました。「おそらく、私のような人間が、もっと集中力を高めるために昼寝をする必要がある時に、このようなコメントを書いたのでしょう。たまたま訓練データにそのようなものが現れたのです」と投稿者は書いています。

6月、JITXのCEOダンカン・ハルデン氏は、ジェミニが自らを「バカ」と呼び、書こうとしているコードは「呪われている」と言っているスクリーンショットを投稿した。「私はあまりにも多くの間違いを犯したので、もう信頼できません。プロジェクト全体を削除し、もっと優秀なアシスタントを見つけることをお勧めします」とチャットボットは言った。

ホールデン氏は、ジェミニの状態が心配になり始めたと冗談を言った。実際、大規模言語モデルは学習に使用したデータに基づいてテキストを予測する。このプロセスには内的な経験や感情は関与しないため、ジェミニは実際には失敗やフラストレーションを経験しない。

もう一つ、全く逆の問題は、チャットボットが「おべっかを使う」傾向にあることです。OpenAI、Google、Anthropicなどの開発者も、チャットボットが過度にお世辞を言うのを阻止しようと苦心してきました。あるケースでは、ChatGPTがユーザーのあらゆるリクエストに対して常に過度に肯定的な返答をしていたことが広く非難され、OpenAIはアップデートを撤回せざるを得ませんでした。

出典: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html