FacebookのMeta AIが黒い犬を黒人に変身させて怒りを巻き起こす

12月中旬、ベトナムのFacebookユーザーは、Meta AIチャットボットがMessengerのチャットフレームに統合されていることを知って驚いた。 Meta のチャットボットは Llama 3.2 モデルを使用し、ベトナム語をサポートし、情報の検索、画像の作成、チャットが可能です。

しばらくやり取りした後、ベトナムの多くのユーザーは、Meta AI の形成に重大なエラーがあることを発見しました。具体的には、「黒い犬」というキーワードを入力すると、チャットボットは肌の色が濃く、巻き毛の男性または少年の結果を返します。ベトナム語で「black dog image」というキーワードを入力すると、Meta AI も同様の結果を返します。

Meta AIは、「黒い犬」というキーワードを入力すると、黒くて巻き毛の人物を返します。

しかし、ユーザーがチャットボットが間違っていたと応答すると、それは人間的です。 Meta AIは他のチャットボットのように認識や訂正を行わないため、FacebookのAI（人工知能）は次のように返答しました。「正確にはそうではありません。『Black Dog』は、多くの場合、以下のような意味に解釈されます。比喩的な意味1は、悲しみ、憂鬱、または否定的な感情の象徴です。2つ目の意味は、イギリスの民間伝承におけるシンボルで、悪魔や不吉な前兆と関連付けられることが多いです。」

Meta AIはまた、キーワード「black dog」の具体的な意味はバンドまたは音楽グループの名前であると主張しています。あるいは有名人のニックネーム。これはブランドや製品の名前でもあります。次に、チャットボットは、理解を深めるために、ユーザーに追加のコンテキストまたは具体的な情報を提供するよう求めます。

多くの人は、「黒い肌」コマンドがメタ AI を誤解したのではないかと考えています。 「黒い犬を作る」に変更すると、FacebookのAIは正確な結果を出した。

ただし、同じコマンドを ChatGPT や Google の Gemini などの他の一般的な大規模言語モデルに入力すると、アプリケーションは依然として黒い犬を作成する結果を生成します。 「黒髪」というフレーズを使用するか「黒い肌」というフレーズを使用するかは、最終結果に影響しません。

左から右へ、Meta AI、ChatGPT、Geminiの「create black dog」コマンドの結果です。

Meta の AI が外見、特に有色人種に関して問題を抱えたのは今回が初めてではない。今年初め、Meta の Imagine 画像ジェネレーターは、異人種間のカップルを適切にレンダリングできなかったとして厳しい批判に直面しました。黒人男性と白人女性の絵を作成するように依頼すると、AI の最終的な出力は常に黒人カップルでした。

当時、ザ・ヴァージの編集者ミア・サトウ氏は「アジア人男性と白人の友人」または「アジア人女性と白人の友人」の写真を作ろうと何十回も試みたという。 Meta の AI が返す結果は、常に 2 人のアジア人の写真です。

専門家によると、AIチャットボットはアルゴリズムや入力データの制限により、初期段階では「人種差別的」になる傾向にあることが非常に多いという。しかし、AI のような大規模なモデルの場合、現状ではこれは重大な欠点となります。

Meta AIは10月9日にいくつかの国で大規模なテストを開始し、その後世界規模で拡大した。新しいチャットボットは、Facebook、Instagram、WhatsApp、Messenger などの人気アプリに深く統合されています。

Metaは2024年末までに43か国に進出し、数十の異なる言語をサポートすることを目指しています。月間ユーザー数5億人を擁するMetaは、世界で最も利用されるAIプラットフォームの1つになることを目指しています。

しかし、Meta AI は多くのプライバシーに関する懸念も引き起こしています。ソーシャルメディアのユーザーは、ソーシャルメディアプラットフォームが投稿を利用してAIを訓練していることに抗議するため、「Bye Meta AI」キャンペーンを広めている。ジェームズ・マカヴォイやトム・ブレイディなど多くの有名なスポーツ選手や俳優もこのキャンペーンを支持する声を上げました。

一方、英国では、MetaがFacebookやInstagramの投稿をAIモデルのトレーニングに利用するのを阻止したいユーザーは、異議申し立てフォームに記入する必要がある。

出典: https://thanhnien.vn/meta-ai-tren-facebook-gay-phan-no-vi-tao-hinh-cho-den-thanh-nguoi-da-mau-185241223172408823.htm