Googleレンズは画像に関して誤解を招く情報を表示する

ファクトチェック機関「フルファクト」の調査により、Googleレンズの検索結果に表示されるAIによる概要が、ソーシャルメディアで広く出回っている多数の画像について虚偽または誤解を招く情報を提供していることが判明した。

Google LensはGoogleが開発した画像検索エンジンです - 写真: KLMOBILE

フルファクトによると、上記のケースには、ウクライナとガザでの戦争、インドとパキスタンの紛争、2025年6月のエア・インディア航空機墜落事故、小型船で英国に来る移民に関するものとされるビデオが含まれている。

Full Fact は、Google レンズを使用して、ファクトチェックを行った偽の動画のスクリーンショットを検索しました。

少なくとも10件のケースでは、AIによる要約は偽のコンテンツを認識できず、ソーシャルメディアと同じ誤情報を繰り返していた。

4つの例において、AIによる概要は、Full Factが反証した虚偽の主張をそのまま繰り返しています。さらに、AIによる概要結果は、同じ画像であっても検索するたびに変化する可能性があり、情報の一貫性が損なわれています。

Googleは、こうしたエラーの一部はAI概要システムではなく画像検索結果から発生する可能性があると認めている。

Google によると、画像検索結果には一致する画像と誤った情報の両方を含む Web ソースやソーシャル メディアの投稿が含まれる可能性があり、これが AI の要約に影響を及ぼします。

Googleは、常に関連性の高い高品質な情報の表示を目指し、継続的に改善し、問題が検出された場合にはポリシーに従って対処するとしている。

Google は、AI による情報捏造（AI による「幻覚」とも呼ばれる）はめったにないと主張していますが、それでも重要な問題やデリケートな問題に関する誤情報が拡散されています。

例えば、ある動画は、亡命希望者がイギリスのドー​​バービーチに到着しているという虚偽の主張をしていましたが、実際にはインドのゴア州のビーチで撮影されたものでした。Googleレンズでこの動画のスクリーンショットを検索したところ、「イギリスのドー​​バービーチに集まる人々」と要約されました。

あるいは、ロシアとウクライナの戦争に関する偽のビデオや、ビデオゲーム「Arma 3」の画像でさえ、これが偽のコンテンツであるという警告なしに、AI によるレビューによって本物として説明されることがあります。

同じビデオゲームだが2つの異なるショットが、C-RAM防衛システムが砲弾を迎撃するシーンとSpaceXロケットが打ち上げられるシーンとしてAIによって要約されるケースがあるが、これらが偽の映像であるとは言えない。

Google LensのAI合成は、イギリスのドー​​バーの町に到着した難民の画像であると主張し、誤った情報を提供した - 写真：FULL FACT

Google レンズは、ユーザーが写真や動画のフレームを検索して、オンラインで類似の画像と比較できる画像検索エンジンです。

ページ上部に、ウェブから関連情報を集約したAIの要約が表示されることがあります。「AIは間違いを犯す可能性がある」という警告にもかかわらず、誤った情報が目立つように表示されると、簡単に人々を誤解させてしまう可能性があります。

Full Fact は、Google Lens の AI 概要ツールは手動によるファクトチェックの代替としてではなく出発点として捉え、比較のために信頼できる追加情報源を探すことを推奨しています。

Google検索結果に誤った情報が表示されるのは今回が初めてではありません。Full Factは、GoogleとGoogle.orgから資金提供を受けているものの、編集上の完全な独立性を維持しているとしています。

トピックに戻る

アン・トゥ

出典: https://tuoitre.vn/google-lens-hien-thi-thong-tin-sai-lech-ve-hinh-anh-20250814110509932.htm