Google、AI画像生成サービス「Gemini」を履歴改ざんにより停止

[広告_1]

ソーシャルメディアのユーザーらは、AI画像生成ツールがアメリカ建国の父たちなど歴史上の人物を有色人種として描いた画像を生成したと不満を漏らしている。

グーグルはソーシャルネットワークXへの投稿で、同社のAI機能は「世界中で使用されている」が、「不適切な」製品を生み出しており、同社は「これらの説明を直ちに改善している」と述べた。

1233ジェミニ.jpg — Geminiは、Googleが開発した最も先進的なAIモデルです。同社は今年2月初め、ChatGPTと競合するチャットボット「Bard」の名称をGeminiに変更しました。

今のところ、検索大手はジェミニの人物画像作成機能を一時停止し、できるだけ早く「改良」バージョンを再リリースする予定だ。

Googleは2月に、Gemini AIプラットフォーム（旧称Bard）を通じてAI画像ジェネレーターを発表した。同社はOpenAIに追いつこうとしている時期だった。OpenAIはChatGPTを所有するスタートアップ企業で、先週Soraと呼ばれる、ユーザーのテキストプロンプトから動画を生成できる新しい生成モデルを発表したばかりだ。

SoraはOpenAIの新しい生成AIモデルで、同社のDall-E画像生成器と同様に動作します。ユーザーは動画コンテンツを入力するだけで、Soraは高品質の動画クリップを生成します。静止画から動画を生成したり、動画を伸縮したり、空白のフレームを埋めたりすることも可能です。

AI愛好家からは歓迎されている一方で、世界的な主要選挙が近づくにつれ、この新技術は誤情報に関する深刻な懸念も引き起こしている。機械学習企業Clarityのデータによると、AI生成のディープフェイクの数は前年比900%増加している。

現在までに、MetaやGoogleといったテクノロジー大手は、動画作成用のAIツールに加え、Stability AIのようなスタートアップ企業も製品を提供しています。Amazonはまた、Alexaの指示に基づいて子供向けの短編アニメーションコンテンツを作成することに特化したモデル「Create with Alexa」をリリースしました。

（CNBCによると）