「4姉妹、私たちは90歳です」写真の真実

AI が生成した画像は Facebook 上で何千ものインタラクションを生み出します。

「私たち４人姉妹は今日で９０歳になります。お祝いをお待ちしています」このキャプションは、写真のコラージュの横に書かれており、上部には4人の少女、下部には4人の老婦人が写っており、全員が明るい笑顔を浮かべている。この投稿は4万5000件以上の「いいね！」、約9000件のコメント、500件以上のシェアを集めた。

以下には4人の“お年寄り”の健康を祝福したり、美しさを称賛する投稿が多数寄せられている。ただし、これは AI による描画です。共有アカウントは、この画像を自分で作成したわけではなく、海外の情報源から入手したものです。

Copilot、Midjourney、DALL-E などの AI ツールの開発により、ユーザーは 1 つのコマンドだけで非常にリアルな画像を作成できます。

ソーシャルメディアで AI が生成した写真を見るのは難しくありません。画像には家族や生活をテーマにしたものが多く、感情に訴えてより多くの交流を引き出します。

AI で生成された写真はどこにでも見られますが、誰もが AI で生成された写真と通常の写真を簡単に区別できるわけではありません。こうしたコンテンツは、単なる「いいね釣り」だけでなく、なりすましやフェイクニュースの拡散など、悪意のある目的に悪用される可能性があります。

ソーシャルメディアの「いいね」ツール

Facebook、Instagram、X では、ユーザーは AI によって作成された画像や動画に簡単に出会うことができます。 「私たちは4人姉妹です」や「この女の子は亡くなった父親の肖像画を描いたが、誰も彼女を支持しなかった」などのコンテンツは、数万件のインタラクションと数千件のコメントを集めました。

画像は主に家族、愛、悲しみなどに関連したものだった。コメントのほとんどは記事に同情を表明したものの、AIによって作成された画像だと認識していない人がほとんどだった。多くのアカウントの投稿にも、はっきりと記載されていません。

Facebook では AI が生成した画像が実際の写真と間違われることがあります。

専門家のレ・コン・ミン・コイ氏によると、Facebook には AI コンテンツがますます多く登場しているという。多くの投稿はエンゲージメントの高いものとしてプラットフォームによって推奨されていますが、そのほとんどは AI によって生成されたものとして明確にラベル付けされていません。

テクノロジーにあまり触れていない人には、違いがほとんどわかりません。この投稿には何千ものコメントが寄せられ、「感動しました」といった共感の声が寄せられています。

AIは、いくつかの新しいモデルが手や歯などの一般的なエラーを修正できるところまで進歩しました。画像を自分で確認する必要がありました。 「AI通知ラベルがなければ、ユーザーはそれをほとんど認識できないだろう」とコイ氏は語った。

ウォータールー大学（カナダ）が2024年3月に発表した調査によると、260人の調査参加者のうち、AIが生成した人物の写真と実際の人物の写真を区別できたのはわずか61％で、研究者の予想率（85％）を下回りました。

AI によって生成されたコンテンツの中には、数万件ものインタラクションを生み出すものもあります。

ソーシャル ネットワークで頻繁に活動する Khoi 氏は、AI 画像や動画が視聴回数やインタラクション数の増加、さらには詐欺に悪用されているとコメントしました。

「AIコンテンツは視聴者を簡単に心理的に操作し、真実ではないことを信じさせ、低品質の製品を買わせたり、編集された広告や陰謀論を信じさせたりする可能性があります」とコイ氏は付け加えた。

実際、Googleとデューク大学（米国）が2024年5月に発表した調査によると、誤情報の拡散形態の中で、AI画像の人気はテキストや通常の編集写真とほぼ同等であることが示されています。

AI 生成画像をどのように区別すればよいでしょうか?

AIが生成した画像の品質はどんどん向上しており、実際の写真と区別することが難しくなってきています。ただし、よく確認すれば、ユーザーはいくつかの詳細を信頼することができます。

AI は多くの場合、他の画像のデータに基づいて画像を作成します。したがって、あまり訓練を受けていない人にとってはツールは使いにくい場合があります。

セキュリティ専門家のゴ・ミン・ヒュー氏によると、AIは手を再現するのが難しいことが多く、余分な指や変形した指が写った画像が生成されるため、手と指は注目すべき詳細だという。

俳優ライアン・レイノルズの AI 生成画像。写真: @joinrealmai/X .

俳優のライアン・レイノルズの写真を例に挙げてみましょう。写真の大部分はかなりリアルだが、レイノルズの右手の指は不自然な形をしている。俳優のジャケットに書かれた文字も全く意味不明です。 AI はまだ正確なテキストやロゴを作成できないため、これは AI 生成画像を認識するための明確な兆候です。

次に、画像内の照明と影の効果を監視することができます。照明や影の角度が異常な場合、画像は AI によって生成されたものである可能性があります。

同じコンテキストを共有するコンテンツの場合、AI が完全に異なる要素を生成するのが難しいことが多いため、ユーザーは重複した詳細を確認する必要があります。

BBCによれば、これは「完璧すぎる」例だという。下の歌手アリアナ・グランデの画像は非常にリアルに見えますが、よく見ると彼女の顔が滑らかすぎるため、写真が非常にシャープになっていることがわかります。背景のフラミンゴの配置もよくありません。

AIによって作成された歌手アリアナ・グランデの画像。写真: @agswaffle/Instagram .

コンテンツがビデオ形式の場合、確認すべき詳細には、唇の動きが会話と一致していない、目の瞬きが少ないまたは不自然、肌の質感がぼやけているなどが含まれます...

最後に、顔、手、照明についてまだ不明な点がある場合は、Google 逆検索や同様のツールを使用してソースを特定する必要があります。

「画像の信憑性に疑問がある場合は、逆検索ツールを使用して、その画像が以前に他の場所に表示されたことがあるかどうかを確認することができます」とヒュー氏は付け加えた。