イスラエル・ハマス戦争：AIが作り出した偽画像の危険性

[広告_1]

偽の AI 画像はどのように機能するのでしょうか?

AIは今やあらゆるところに存在し、戦争にも利用されています。人工知能（AI）アプリケーションは今年大きく進歩し、ほぼ誰でもAIジェネレーターを使って、少なくとも一見リアルに見える画像を作成できるようになりました。

イスラエルのハマス戦闘員は、何者かが作成した偽写真によって危険にさらされている。写真1 — AIが生成したガザ戦争の偽写真。

ユーザーは、MidjourneyやDall-Eなどのツールに、仕様や情報を含むいくつかのプロンプトを入力するだけで、この作業を実行できます。AIツールは、テキスト、あるいは音声によるプロンプトを画像に変換します。

この画像生成プロセスは、いわゆる機械学習を利用しています。例えば、クリエイターが70歳の男性が自転車に乗っている画像を見せてほしいと依頼した場合、クリエイターはデータベースを検索し、画像と用語を一致させます。

AIアルゴリズムは、利用可能な情報に基づいて、高齢の自転車利用者の画像を生成します。入力データの増加と技術アップデートにより、これらのツールは大幅に改善され、継続的に学習しています。

これらすべてが中東紛争関連の画像に適用されています。AI専門家のハニー・ファリド氏は、「感情が非常に高ぶる」紛争においては、AI画像を通じて拡散されるものも含め、誤情報が大きな影響を及ぼすと述べています。

カリフォルニア大学バークレー校のデジタル分析教授ファリド氏は、激しい戦いは偽のコンテンツの作成と拡散、そして感情を煽るのに最適な温床になると語った。

イスラエルとハマスの戦争のAI画像

人工知能の助けを借りて作成された画像や動画は、ウクライナ戦争に関する偽情報を煽り、イスラエルとハマスとの戦争でもそれが続いている。

専門家によると、ソーシャルメディアで拡散する戦争関連のAI画像は、多くの場合2つのカテゴリーに分けられる。1つは人間の苦しみに焦点を当て、共感を呼ぶもの。もう1つは、出来事を誇張し、紛争を煽り、暴力をエスカレートさせる偽のAIである。

イスラエルのハマス戦闘員は、何者かが作成した偽写真の危険にさらされている。画像2 — ガザの瓦礫の中にいる父と子の、AIが生成した偽の写真。

例えば、最初のカテゴリーには、瓦礫の山の前に立つ父親と5人の子供たちの上の写真が含まれます。この写真はX（旧Twitter）とInstagramで何度もシェアされ、数十万回も閲覧されました。

この画像は、少なくともXコミュニティでは偽物としてフラグが付けられています。AI画像によくある様々なエラーや矛盾点から、偽物だと判断できます（上の画像を参照）。

同様の異常は、X で拡散した下記の偽の AI 画像にも見られます。この画像では、遺跡で一緒に食事をするパレスチナ人家族が写っているとされています。

イスラエルのハマス戦闘員は、何者かが作成した偽画像によって危険にさらされている。画像3 — AIが生成したパレスチナ政党の偽写真。

一方、爆撃された家々が立ち並ぶ入植地をイスラエル国旗を振りながら行進する軍隊を映した別の写真は、憎悪と暴力をあおることを目的とした第2のカテゴリーに分類される。

このような AI 画像はどこから来るのでしょうか?

AI が生成した紛争の画像のほとんどはソーシャルメディアプラットフォームに投稿されていますが、他の多くのプラットフォームや組織、さらには一部のニュースサイトでも公開されています。

ソフトウェア会社Adobeは、2022年末までにAI生成画像をストックフォトのラインナップに追加することで話題を呼んでいる。データベースでは、それらの画像に適切なラベルが付けられる。

Adobe は現在、爆発、抗議する人々、アル・アクサ・モスクの背後に立ち上る煙など、中東戦争の AI 画像も販売している。

イスラエルのハマス戦闘員は、何者かが作成した偽写真によって危険にさらされている。写真4 — Adobe は、ガザでの戦闘の AI 生成画像を提供している。

一部のサイトがAI生成画像であることを明示せずに画像を使い続けているため、批評家たちはこれを問題視している。例えば、「Newsbreak」ページに掲載された画像は、AI生成画像であることを一切示さずに掲載されている。

欧州議会の科学部門である欧州議会調査局ですら、中東紛争に関するオンライン文書にAdobeデータベースからのAI画像を使った図解を加えたが、AI生成であるとは明記していなかった。

欧州デジタルメディア監視団は、ジャーナリストやメディア専門家に対し、AI画像の使用には細心の注意を払うよう促し、特にガザ戦争のような実際の出来事を報道する際には使用しないよう勧告している。

AI画像はどれくらい危険でしょうか?

AIコンテンツや画像が拡散するにつれ、ユーザーはオンラインで目にするあらゆるものに不安を抱くようになるだろう。「画像、音声、動画が操作できる世界になれば、すべてが疑わしくなる」と、カリフォルニア大学バークレー校の研究者ファリド氏は説明する。「そうなると、真実を含め、あらゆるものへの信頼を失ってしまうのだ。」

まさに次の事件がそれだ。イスラエルの赤ちゃんの黒焦げの遺体と思われる画像が、イスラエルのベンヤミン・ネタニヤフ首相と他の政治家数名によってソーシャルメディアで共有されたのだ。

反イスラエル派のインフルエンサー、ジャクソン・ヒンクル氏は後に、この画像は人工知能（AI）によって作成されたと主張した。ヒンクル氏の主張はソーシャルメディア上で2,000万回以上閲覧され、プラットフォーム上で激しい議論を巻き起こした。

最終的に、多くの組織や検証ツールが、画像は本物であり、ヒンクル氏の主張は虚偽であると発表しました。しかし、ユーザーが失った信頼を簡単に取り戻すのに役立つツールは存在しないことは明らかです。

ホアンハイ（DWによると）

[広告2]
ソース