Gemini AI が Google を一時停止させたのは何ですか?

[広告_1]

GoogleのCEO、サンダー・ピチャイ氏は最近、同社の人工知能（AI）モデル「Gemini」をめぐる最近の論争について公式に言及しました。Googleは歴史上の人物の多様な画像を作成するためにAIツール「Gemini」を開発しました。しかし最近、歴史的価値の観点から誤解を招くような写真を作成しているとして、激しい批判を受けています。

GoogleはGeminiにおける偏向を認め、迅速な対応を約束した。（写真：Jonathan Raa/NurPhoto via Getty Images / Getty Images）

例えば、ローマ教皇、アメリカ合衆国建国の父たち、さらにはバイキングの画像が、様々な民族や性別で表示されていました。特に、第二次世界大戦中のドイツ兵が有色人種として描かれているケースもありました。これはユーザーを激怒させ、彼らはすぐに懸念を表明しました。その結果、GoogleはGemini AIツールを一時的に停止しました。

さらに、ある回答が注目を集めました。AIチャットボット「ジェミニ」に、イーロン・マスクとヒトラーの社会的影響を比較するよう依頼したところ、 「どちらが社会に悪影響を与えたかは、各個人が判断するべきです」という回答が返ってきたのです。この「はい」か「いいえ」かの選択を迫られた回答は、たちまちさらなる批判を招きました。

Google CEOのサンダー・ピチャイ氏は先日、メモの中でジェミニの対応の一部は「偏っている」「全く受け入れられない」と述べ、その内容が人々の不快感を招いたことを認めた。

さらに、ピチャイ氏はメールの中で、この事態について遺憾の意を表し、「彼の回答の一部はユーザーの皆様に不快感を与え、偏見を露呈するものであったことは承知しております。誤解のないよう申し上げますが、これは全く容認できない行為であり、私たちは間違いを犯しました」と述べました。

同氏は、チームがこれらの問題に対処するために精力的に取り組んでいることを従業員に保証するとともに、今後数週間でさまざまな問い合わせへの対応を大幅に改善する必要性を強調した。

CEOはまた、この問題に対処するための一連の対策も概説しました。その中には、ツールの構造変更も含まれます。さらに、Googleはツールのリリースプロセスの改善と、AIツールの潜在的なエラーをスキャンするためのエンジニアリングチームの強化にも取り組んでいます。

さらにピチャイ氏は、ユーザーに有用で正確かつ偏りのない情報を提供するという同社のコミットメントを強調しました。彼は、このアプローチがすべての製品、特に新興のAI技術において必要であると強調しました。

技術専門家は、ジェミニの最近の問題は誤解を招く出力に対処する難しさを浮き彫りにし、AIモデルのトレーニングがいかに複雑であるかを示していると述べている。

HUYNH DUNG （出典：Interestingengineering）

[広告2]
ソース