Bardチャットボットの新しい名称であるGeminiは、OpenAIのChatGPTと同様の方法で、ユーザーの説明に基づいて画像を生成します。他のモデルと同様に、Geminiは危険なコマンドや憎悪に満ちたコマンドには応答しないように訓練されており、出力に多様性を取り入れています。
しかし、一部のユーザーは、こうした多様性が行き過ぎて、人物や歴史上の人物を不正確に描写していると批判している。例えば、ジェミニは初代アメリカ大統領ジョージ・ワシントンを、有色人種として描いている。
その他の例としては、東南アジアの女性が教皇の衣装を着ているAI画像などが挙げられるが、実際には、歴史上の266人の教皇は全員白人男性である。
 |
Googleは、GeminiのAI画像生成機能を一時的に停止した。 |
ジェミニ社は、ナチス時代にドイツ兵の「多様な」イメージも制作しており、1943年には軍服を着たアジア人女性や黒人男性の写真も制作している。
GoogleはGeminiチャットボットの動作を制御するパラメータを公開していないため、このソフトウェアが歴史上の人物や出来事についてこれほど多様なバージョンを作り出す理由を明確に説明することは難しい。
ジェミニ社の問題発生は、人気チャットサービス「ChatGPT」を運営するOpenAI社が、ユーザーのテキストによる説明に基づいて動画を作成できる新しいAIツール「Sora」を発表した数日後のことだった。
Googleは以前から、このチャットボットの不安定な動作を修正する必要があると認めている。Geminiは画像生成において強制的な多様性を優先した可能性があり、その結果、歴史的に不正確な説明が生成された可能性がある。
Googleは2月に、OpenAIやMicrosoftのCopilotに対抗するため、自社のAIモデルであるGemini（旧Bard）を用いた画像生成機能の提供を開始した。競合製品と同様に、このツールはユーザーが入力した説明文に基づいて画像を生成する。
ソース
コメント (0)