最新の動きとして、GoogleのCEOであるサンダー・ピチャイ氏が、同社の人工知能（AI）モデル「ジェミニ」をめぐる最近の論争について公式に言及した。Googleは、歴史上の人物の多様な画像を生成するためにジェミニAIツールを開発した。しかし、歴史的価値の点で誤解を招くような画像を生成するとして、最近強い批判にさらされている。
GoogleはGeminiにおける偏りを認め、迅速な対応を誓った。（写真：Jonathan Raa/NurPhoto via Getty Images / Getty Images）
例えば、ローマ教皇、アメリカ合衆国の建国の父、さらにはバイキングまでもが、様々な人種や性別で描かれていた。特に、第二次世界大戦中のドイツ兵が有色人種として描かれていた事例もあった。これに対し、ユーザーらは憤慨し、すぐに懸念を表明した。その結果、GoogleはAIツール「Gemini」を一時的に停止した。
さらに、ある特定の回答が物議を醸した。ジェミニAIチャットボットに、イーロン・マスクとヒトラーの社会的影響を比較するよう依頼したところ、出力は「どちらが社会に悪影響を与えているかは、各個人が判断すべきことです」というものだった。この曖昧な回答は、たちまち批判を招いた。
最近、GoogleのCEOであるサンダー・ピチャイ氏は、メモの中でジェミニの回答の一部を「偏向的」で「全く容認できない」と評し、作成されたコンテンツが人々の気分を害したことを認めた。
さらに、ピチャイ氏はメールの中で、この状況について遺憾の意を表明した。 「一部の回答がユーザーを不快にさせ、偏見を示したことは承知しています。はっきり言って、それは全く容認できないことであり、我々の過ちでした」と述べた。
彼は、各チームがこれらの問題に対処するために精力的に取り組んでいると職員に保証するとともに、今後数週間で様々な問い合わせへの対応を大幅に改善する必要性を強調した。
CEOはまた、この問題に対処するための一連の対策についても概説した。その中には、ツールの構造変更も含まれる。さらに、Googleはツールのローンチプロセスを改善し、AIツールの潜在的な欠陥を検証するためのエンジニアリングテストチームを強化することにも取り組んでいる。
さらにピチャイ氏は、ユーザーに有益で正確かつ偏りのない情報を提供するという同社の取り組みを強調した。そして、このアプローチはすべての製品、特に新興のAI技術において必要不可欠であると述べた。
技術専門家は、ジェミニをめぐる現在の問題は、誤解を招くような出力への対処の難しさを改めて浮き彫りにしていると考えている。また、これはAIモデルのトレーニングの複雑さも示している。
ソース
コメント (0)