AIの産物：人種差別と偏見
国際保健の専門家によると、貧困、子供、性暴力の被害者といったテーマを題材にしたAI生成画像がオンライン写真アーカイブに溢れており、非政府組織（NGO）による利用が増えているという。専門家たちは、これが「貧困搾取文化の新たな時代」の到来を告げる可能性があると警告している。
「これらの画像は貧困の典型的なイメージを反映している。空のボウルを持った子供、ひび割れた地面…非常にステレオタイプだ」と、アントワープ熱帯医学研究所で世界的な健康画像の制作を研究している研究者、アルセニー・アレニチェフ氏は語った。
アレニチェフ氏は、極度の貧困を描写したAI生成画像を100枚以上収集し、個人やNGOが飢餓や性的暴力に反対するソーシャルメディアキャンペーンで使用しました。
彼がガーディアン紙に共有した画像には、泥水たまりに群がる子供たちや、ウェディングドレスを着たアフリカの少女が涙を流す姿など、誇張されたステレオタイプな光景が映し出されている。ランセット・グローバル・ヘルス誌に最近掲載された論評の中で、彼はこれらの画像は「貧困ポルノ・バージョン2.0」に等しいと主張した。
写真ウェブサイトに掲載された、AIが生成した「貧困」の画像のスクリーンショット。（写真：Freepik）
アレニチェフ氏をはじめとする多くの専門家は、著作権やコストへの懸念からAI画像の利用が増加していると指摘している。米国政府によるNGOへの予算削減は、この問題をさらに悪化させている。
「多くの組織が、実写写真の代わりにAI画像の利用を検討し始めているのは明らかです。コストが安いからです。著作権など、様々な問題を心配する必要もありません」と彼は述べた。
責任はユーザーにありますか、それともプラットフォームにありますか?
AIが生成した貧困画像が、Adobe Stock PhotosやFreepikなど数十の写真サイトに掲載されています。多くの画像には、「難民キャンプの非現実的な子供」「ゴミだらけの川で泳ぐアジアの子供たち」「アフリカの村で黒人の子供たちに医療アドバイスを提供する白人ボランティア」などのキャプションが付けられています。Adobeは、リストの最後の2枚の画像の使用権を約60ポンドで販売しています。
「これらの写真は明らかに人種差別的であり、アフリカやインド、あるいは考えられるあらゆるものについての最悪のステレオタイプであるため、掲載を許可されるべきではない」とアレニチェフ氏は述べた。
FreepikのCEO、ホアキン・アベラ氏は、このような過激な画像の使用責任は、同社のようなプラットフォームではなく、ユーザーにあると述べた。アベラ氏の見解では、AIストック写真は世界中のユーザーコミュニティによって作成されており、Freepikの顧客が写真を購入すると、ユーザーはロイヤリティを受け取ることができる。
Freepikは、「多様性を注入する」ことで、写真ライブラリに見られる偏見を抑制しようと努めてきました。同時に、弁護士や経営幹部の写真においても、男女比のバランスを保つよう努めています。
しかし、彼のプラットフォームでできることには限界があると彼は言う。 「まるで海を干上がらせようとしているようなものです。私たちも努力はしましたが、現実は、 世界中のクライアントが特定のイメージを求めているなら、誰にもどうすることもできないのです。」
慈善団体プラン・インターナショナルが2023年に実施する児童婚反対キャンペーンのAI生成画像。このキャンペーンは「少女のプライバシーと尊厳」の保護を目的としている。（写真：プラン・インターナショナル）
国連を含む多くの権威ある組織が AI 生成画像を使用しています。
昨年、国連はYouTubeに性暴力の「再現」動画を投稿しました。この動画には、1993年に3人の男にレイプされ、死に追いやられたと証言するブルンジ人女性の証言も含まれていました。この動画は完全にAIによって生成されたものでした。ガーディアン紙が国連にインタビューを申し込んだ後、動画は削除されました。
国連報道官は後に、動画が削除された理由を説明した。 「この動画はAIによって不適切に生成されたものであり、実際の映像と本物らしく見える人工的なコンテンツが混在しているため、情報の完全性にリスクをもたらす可能性があると考えています。」
AI生成製品は、長らく模倣品であり、時には真実を誇張することもあると指摘されてきた。アレニチェフ氏は、こうした偏った画像が蔓延することで、問題がさらに悪化する可能性があると指摘した。なぜなら、これらの画像は広大なインターネット上に拡散され、次世代AIの訓練に利用される可能性があるからだ。
プラン・インターナショナルの広報担当者は、同NGOは現在「子どもの描写にAIを使用することを推奨していない」と述べた。
ミン・ホアン
出典: https://vtcnews.vn/chuyen-gia-bao-dong-tinh-trang-ai-tao-anh-rap-khuon-phong-dai-ar972160.html
コメント (0)