偽の有名人写真が蔓延している
驚くほどリアルに見えるのに、実は偽物のような画像を作るのが、かつてないほど簡単になりました。インターネット接続とAI搭載ツールがあれば、誰でも数秒でリアルな写真を作成し、猛スピードでソーシャルメディアに拡散できます。
AIが生成した偽の写真は、イーロン・マスクがGMのCEOメアリー・バーラと「デート」している様子を示しているとされている。
最近では、ドナルド・トランプ前大統領とウラジーミル・プーチン大統領が偽装逮捕されたり、億万長者のイーロン・マスク氏がゼネラルモーターズ（GM）のCEOメアリー・バーラ氏と「ぶらぶら」しているといった画像が多数拡散している。
問題は、AI画像が実際には起こらなかった出来事を描写していることです。これらの画像の中には面白くて非現実的に見えるものもありますが、専門家によると、誤報、さらにはフェイクニュースの拡散という点で、依然として深刻な危険性をはらんでいるとのことです。
ドナルド・トランプ前米大統領のような政治家の逮捕画像は、信頼できるメディアソースを確認すれば、ユーザーによってかなり迅速に確認できる。しかし、AI専門家のヘンリー・アジダー氏はDWに対し、写真に写っている人物がそれほど有名ではないなど、他の画像は識別が難しいと語った。
偽のイベント写真の危険性
アジュダー氏によると、誤情報を拡散できるのはAIが生成した人物画像だけではない。2001年にアメリカとカナダを襲ったとされる大地震のように、実際には起こっていない出来事をユーザーが作り出した例もあるという。
しかし、地震は実際には起こっておらず、Redditで共有された画像はすべてAIが生成したものでした。そして、それが問題だとアジダー氏は言います。「AIが風景を生成した場合、それを見つけるのが難しくなる可能性があるのです」と彼は説明します。
AIツールは急速に進歩しているにもかかわらず、間違いを犯すことがあります。2023年4月現在、Midjourney、Dall-E、DeepAIといったプログラムはすべて、特に人間が映っている画像では不具合を抱えています。
AI 生成画像を検証するためのヒントをいくつか紹介しますが、人工知能ツールは毎日、時には毎時間進化しているため、これらのヒントは現状を反映しているにすぎないと専門家はすぐに警告しています。
ズームインして画像ソースを見つける
AIが生成した画像の多くは、一見すると本物に見えます。そのため、専門家はまず写真をよく見ることを勧めます。そのためには、可能な限り高解像度の画像を撮影し、細部までズームインしてみましょう。
画像を拡大すると、一見しただけでは気づかない矛盾やエラーが明らかになります。
画像が本物かAI生成か分からない場合は、出典を調べてみてください。他のユーザーが画像の下に投稿したコメントを読むことで、画像が元々どこに投稿されたのかを知ることができます。
あるいは、逆画像検索を行うこともできます。これを行うには、Google Image Reverse Search、TinEye、Yandexなどのツールに画像をアップロードすると、画像の元のソースを見つけることができます。
これらの検索の結果には、追加のコンテキストを提供する信頼できるメディアによって実行されたファクトチェックへのリンクも表示されることがあります。
体の比率と表示エラーに注意してください
AIが生成した画像には、体全体のバランスが合わないことが珍しくありません。手が小さすぎたり、指が長すぎたり、頭や脚が体の他の部分と合っていない場合もあります。
現在、MidjourneyやDALL-EのようなAI画像処理プログラムでは、手が大きな誤差要因となっています。フランシスコ教皇の偽写真のように、人物には指が余分に見えたり、指が欠けていたりすることがよくあります。
AIが生成したフランシスコ教皇の偽写真。
AI生成画像によくあるエラーとしては、歯が多すぎる人、奇妙な形の眼鏡をかけている人、非現実的な形の耳などがあります。ヘルメットのバイザーなどの反射面も、AIプログラムにとって問題となります。
しかし、AI専門家のヘンリー・アジダー氏は、Midjourneyのようなプログラムの新しいバージョンでは手札生成能力が向上しており、ユーザーがこの種のエラーの検出に長い間頼ることはできないだろうと警告している。
画像は偽物っぽくて滑らかに見えますか?
特に、Midjourneyアプリは、見る人が思わず疑問に思うほど美しく完璧な画像を生成します。「顔は純粋すぎるし、布地は調和がとれすぎている」と、ドイツAI研究センターのアンドレアス・デンゲル氏は言います。
AI画像に映る人物の肌は、多くの場合滑らかで傷がなく、髪の毛や歯までも完璧です。これは現実世界では不可能です。
多くの写真は芸術的で光沢がありキラキラしていますが、プロの写真家でもスタジオで撮影するときには実現するのが難しいものです。
AI ツールは、完璧でできるだけ多くの人々を満足させる理想的な画像をデザインすることが多いようです。
文脈と結論を確認する
画像の背景を見れば、偽造かどうかがすぐに分かることがよくあります。街灯のように、物体が歪んで見えることもあります。AIプログラムが人物や物体をコピーし、何度も繰り返し使用するケースもあります。また、AI画像の背景がぼやけていることも珍しくありません。
しかし、このぼかしにも欠陥がある。例えば、オスカー賞授賞式でウィル・スミスが怒っている姿を映すはずだった写真のように。背景がピントが合っていないだけでなく、人工的にぼかされていたのだ。
AIが生成した画像の多くは、少し考えるだけで検出できるようになりました。Hugging FaceのようなAI検出ツールも偽造品の見分けに役立ちます。しかし、技術が進歩するにつれて、AI画像の欠陥は目立たなくなり、発見が難しくなる可能性があります。
ホアンハイ（DWによると）
[広告2]
ソース
コメント (0)