イスラエル・ハマス戦争：AI生成の偽画像の危険性

[広告1]

偽の AI 画像はどのように機能するのでしょうか?

AIは今やあらゆる場所に存在し、戦争にも利用されています。人工知能（AI）アプリケーションは今年飛躍的に進歩し、AIジェネレータを使えば、少なくとも一見リアルに見える画像を誰でも簡単に作成できるようになりました。

イスラエルのハマス戦争は、誰かが作成した偽画像によって危険にさらされている。写真1 — ガザでの戦争をAIが偽造した写真。

ユーザーは、MidjourneyやDall-Eなどのツールに、仕様や情報を含むいくつかのプロンプトを入力するだけで、この作業を実行できます。AIツールは、テキスト、あるいは音声によるプロンプトを画像に変換します。

この画像生成プロセスは、いわゆる機械学習に基づいています。例えば、クリエイターが70歳の男性が自転車に乗っている画像を見せてほしいと依頼した場合、クリエイターはデータベースを検索し、画像と用語を一致させます。

AIアルゴリズムは、利用可能な情報に基づいて、高齢の自転車利用者の画像を生成します。入力データの増加と技術アップデートにより、これらのツールは大幅に改善され、継続的に学習しています。

これらすべてが中東紛争関連の画像に適用されています。AI専門家のハニー・ファリド氏は、「感情が非常に高ぶる」紛争においては、AI画像を通じて拡散されるものも含め、誤情報が大きな影響を及ぼすと述べています。

カリフォルニア大学バークレー校のデジタル分析教授ファリド氏は、激しい戦いは偽のコンテンツの作成と拡散、そして感情を煽るのに最適な温床になると語った。

イスラエルとハマスの戦争に関するAI画像の種類

人工知能の助けを借りて作成された画像や動画は、ウクライナ戦争に関する偽情報を煽っており、イスラエルとハマスとの戦争でもそれが続いている。

専門家によると、ソーシャルメディアで拡散する戦争関連のAI画像は、多くの場合2つのカテゴリーに分けられる。1つは人々の苦しみに焦点を当て、同情を喚起するものであり、もう1つは出来事を誇張し、紛争を煽り、暴力をエスカレートさせる偽のAIである。

イスラエルのハマス戦争は、誰かが作成した偽画像によって危険にさらされている。写真2 — ガザの瓦礫の中にいる父と子の、AIが生成した偽の写真。

例えば、最初のカテゴリーには、瓦礫の山の前に立つ父親と5人の子供たちの上の写真が含まれます。この写真はX（旧Twitter）とInstagramで何度もシェアされ、数十万回も閲覧されました。

この画像は、少なくともXコミュニティでは偽物としてフラグが付けられています。AI画像によくある様々なエラーや矛盾点から、偽物だと判断できます（上の画像を参照）。

同様の異常性は、下記のXで拡散した偽のAI画像にも見られます。この画像には、遺跡で一緒に食事をするパレスチナ人家族が写っているとされています。

イスラエルのハマス戦争は、誰かが作成した偽の画像によって危険にさらされている、写真3 — AIが生成したパレスチナ政党の偽写真。

一方、爆撃された家々が立ち並ぶ入植地を通過する際にイスラエル国旗を振る兵士たちを映した別の写真は、憎悪と暴力をあおることを目的とした第2のカテゴリーに該当する。

このような AI 画像はどこから来るのでしょうか?

AI が生成した紛争の画像のほとんどはソーシャルメディアプラットフォームに投稿されていますが、他の多くのプラットフォームや組織、さらには一部のニュースサイトでも公開されています。

ソフトウェア会社Adobeは、2022年末までにAI生成画像をストックフォトのラインナップに追加することで話題を呼んだ。データベースでは、それらの画像に適切なラベルが付けられる。

Adobe は現在、爆発、抗議する人々、アル・アクサ・モスクの背後に立ち上る煙など、中東戦争の AI 画像も販売している。

イスラエルのハマス戦争は、誰かが作成した偽の画像によって危険にさらされている、写真4 — Adobe は、ガザでの戦闘の AI 生成画像を提供している。

一部のサイトがAI生成画像であることを明示せずに画像を使い続けているため、批評家たちはこれを問題視している。例えば、問題の画像は「Newsbreak」ページに掲載されていたが、AI生成画像であることは一切示されていなかった。

欧州議会の科学部門である欧州議会調査局でさえ、中東紛争に関するオンラインテキストにAdobeデータベースからのAI画像を使用したイラストを添えたが、AI生成であるとは明記していなかった。

欧州デジタルメディア監視団は、ジャーナリストやメディア専門家に対し、AI画像を使用する際には細心の注意を払うよう促し、特にガザ戦争のような現実の出来事を報道する際には使用しないよう勧告している。

AI画像はどれくらい危険なのでしょうか?

AIコンテンツや画像が拡散するにつれ、ユーザーはオンラインで目にするあらゆるものに不安を抱くようになるだろう。「画像、音声、動画が操作できる世界になれば、すべてが疑わしくなる」と、カリフォルニア大学バークレー校の研究者ファリド氏は説明する。「そうなると、真実を含め、あらゆるものへの信頼を失ってしまうのだ。」

まさに次の事件が起こった。イスラエルの赤ちゃんの黒焦げの遺体と思われる画像が、イスラエルのベンヤミン・ネタニヤフ首相と他の政治家数名によってソーシャルメディアで共有されたのだ。

反イスラエル派のインフルエンサー、ジャクソン・ヒンクル氏は後に、この画像は人工知能（AI）によって作成されたと主張した。ヒンクル氏の発言はソーシャルメディア上で2,000万回以上閲覧され、プラットフォーム上で激しい議論が巻き起こった。

最終的に、多くの組織や検証ツールが、画像は本物であり、ヒンクル氏の主張は虚偽であると断言しました。しかし、ユーザーが失った信頼を簡単に取り戻すのに役立つツールは存在しないことは明らかです。

ホアンハイ（DWによる）

[広告2]
ソース