 |
AI が生成した画像は Facebook 上で何千ものインタラクションを生み出します。 |
「私たち4姉妹は今日90歳になります。お祝いをお待ちしています。」と書かれたキャプションは、4人の少女が上、4人の老婦人が下、全員が明るい笑顔を浮かべたコラージュ写真に添えられており、4万5000件以上の「いいね！」、9000件近くのコメント、500件以上のシェアを集めた。
下には、4人の「お年寄り」の健康を祝福し、その美しさを称賛する投稿が多数見られます。しかし、これはAIが描いたものです。この画像をシェアしたアカウントは、この画像自体を作成したわけではなく、海外のソースから入手したものです。
Copilot、Midjourney、DALL-E などの AI ツールの開発により、ユーザーは 1 つのコマンドだけで非常にリアルな画像を作成できます。
ソーシャルネットワーク上では、AIが生成した画像を見つけるのは難しくありません。これらの画像は家族や人生をテーマにしたものが多く、感情に訴えかけることで多くのインタラクションを生み出します。
AI生成画像は広く普及しているにもかかわらず、誰もが通常の画像と見分けるのは容易ではありません。単なる「いいね！」誘導だけでなく、なりすましやフェイクニュースの拡散といった悪意ある目的に悪用される可能性もあります。
ソーシャルネットワーク上の「いいね釣り」ツール
Facebook、Instagram、Xbox Oneなどでは、AIが作成した画像や動画を簡単に目にすることができます。「私たちは4姉妹です」や「この女の子は亡くなった父親の肖像画を描いたのですが、誰も応援してくれませんでした」といったコンテンツは、何万ものインタラクションと何千ものコメントを集めています。
画像は主に家族、愛、悲しみなどに関するものでした。コメントのほとんどは投稿への同情を示しており、画像がAIによって作成されたものであることを認識していない人がほとんどでした。投稿したアカウントの多くも、そのことに明確に言及していませんでした。
 |
Facebook では AI が生成した画像が実際の写真と間違われるケースが見受けられる。 |
専門家レビュアーのLe Cong Minh Khoi氏によると、FacebookではAIコンテンツがますます増えているという。多くの投稿はFacebookによって高いエンゲージメントで推奨されているものの、そのほとんどはAIによって作成されたことが明確に表示されていない。
「テクノロジーにあまり触れていない人には、違いがほとんどわかりません。この投稿には何千ものコメントが寄せられ、『感動しました』といった共感の声が寄せられています。」
AIは進化を遂げ、新しいモデルの中には、手や歯といったよくある間違いを修正できるものもあります。私自身も画像を再確認しなければなりません。「AIによる通知ラベルがなければ、ユーザーはほとんど認識できないでしょう」とコイ氏は語りました。
ウォータールー大学（カナダ）が2024年3月に発表した調査によると、260人の調査参加者のうち、AIが生成した人物の写真と実際の人物の写真を区別できたのはわずか61％で、研究者の予想率（85％）を下回った。
 |
AI によって生成されたコンテンツの中には、数万件ものインタラクションを生み出すものもあります。 |
ソーシャル ネットワークで定期的に活動している Khoi 氏は、AI 画像や動画が視聴回数やインタラクション数の増加、さらには詐欺行為に悪用されているとコメントしました。
「AIコンテンツは視聴者を簡単に心理的に操作し、真実ではないことを信じさせ、低品質の製品を買わせたり、編集された広告や陰謀論を信じさせたりする可能性があります」とコイ氏は付け加えた。
実際、Googleとデューク大学（米国）が2024年5月に発表した調査によると、誤情報の拡散形態の中で、AI画像の人気はテキストや通常の編集写真とほぼ同等であることが示されています。
AI 生成画像をどのように区別すればよいでしょうか?
AIが生成する画像の品質はますます向上しており、実物の写真と区別がつきにくくなっています。しかし、よく見れば、ある程度の細部は信頼できるものとなっています。
AI は他の画像のデータに基づいて画像を生成することが多いため、あまり訓練されていない詳細を扱うツールが苦労することがあります。
セキュリティ専門家のゴ・ミン・ヒュー氏によると、AIは手を再現するのが難しいことが多く、余分な指や変形した指が写った画像が生成されるため、手と指は注目すべき詳細だという。
 |
俳優ライアン・レイノルズのAI生成画像。写真： @joinrealmai/X |
ライアン・レイノルズの写真を見てください。大部分はリアルですが、レイノルズの右手の指の形が不自然です。ジャケットの文字も全く意味不明です。これは、この画像がAIによって作成されたものであることを明確に示しています。AIはまだ正確な文字やロゴを作成できていないからです。
次に、画像内の照明と影の効果を追跡できます。照明や影の角度が異常な場合、その画像はAIによって生成された可能性が高いです。
同じコンテキストを共有するコンテンツの場合、AI が完全に異なる要素を生成するのが難しいことが多いため、ユーザーは重複した詳細を確認する必要があります。
BBCによると、これは「完璧すぎる」例だ。下の歌手アリアナ・グランデの画像は非常にリアルに見えるが、よく見ると顔が滑らかすぎるため、写真がシャープになりすぎていることがわかる。背景のフラミンゴの配置も良くない。
 |
歌手アリアナ・グランデのAI生成画像。写真： @agswaffle/Instagram 。 |
コンテンツがビデオ形式の場合、確認すべき詳細には、唇の動きが会話と一致していない可能性、目の瞬きが小さいまたは不自然、肌の質感がぼやけているなどが含まれます...
最後に、顔、手、照明についてまだ不明な点がある場合は、Google などのツールで逆検索してソースを特定する必要があります。
「画像の信憑性に疑問がある場合は、逆検索エンジンを使用して、その画像が以前に他の場所に表示されたことがあるかどうかを確認することができます」とヒュー氏は付け加えた。
コメント (0)