オンラインで何百万回も閲覧されているこれらの画像は、人工知能（AI）を用いて作成されたディープフェイクです。よく見ると、奇妙な曲線を描く指や不自然な光を放つ目など、その特徴がはっきりと分かります。
しかしながら、こうしたディープフェイク画像が引き起こす怒りは現実のものだ。
イスラエルとハマスの戦争の写真は、リアルな画像を作成するために使用されるプロパガンダのツールとしての AI の危険性を鮮明かつ痛々しく示しています。
先月戦闘が始まって以来、ソーシャルメディア上で出回っているデジタル加工された写真は、犠牲者の責任について虚偽の主張をしたり、実際には起こっていない残虐行為について人々を誤解させたりするために使われてきた。
パレスチナ人がガザ地区の瓦礫の中から持ち物を拾い集めている。AP通信の写真。
技術の進歩はますます頻繁に起こり、監視はほとんど行われていません。そのため、AIが新たな兵器となるリスクは明らかであり、将来の紛争、選挙、その他の主要な出来事において何が起こるかをいち早く垣間見ることができます。
「事態は良くなる前に、さらに悪化するだろう」と、サンフランシスコとパリに拠点を置き、AIを使ってオンライン苦情の妥当性を評価するテクノロジー企業CREOpointのCEO、ジャン＝クロード・ゴールデンスタイン氏は述べた。
彼の会社は、ガザから発信された最も拡散されたディープフェイク画像のデータベースを構築した。「画像、 動画、音声。クリエイティブAIによって、これはかつてないほどの前進です」と彼は述べた。
戦争関連の偽情報を追跡する非営利団体「デジタルヘイト対策センター」のCEO、イムラン・アーメド氏は、このような画像を作成するプロパガンダを行う者は、人々の心の奥底にある衝動や不安を狙うのが巧みだと語った。
画像が恐ろしいほど、ユーザーはそれを記憶し、共有する可能性が高くなり、意図せずしてさらなる誤情報を拡散させてしまう。ロシア・ウクライナ紛争以降、AIが生成した同様の誤情報が実際に拡散し始めている。
新たな紛争や選挙シーズンは、偽情報の拡散者にとって新たな機会をもたらします。そのため、多くのAI専門家や政治学者は、米国、インド、パキスタン、ウクライナ、インドネシア、メキシコなど、多くの国で主要な選挙が行われる来年のリスクを警告しています。
AIとソーシャルメディアがアメリカの有権者に嘘を広めるために利用されるリスクは、ワシントンの両党の議員を警戒させている。ディープフェイク技術の危険性に関する最近の公聴会で、バージニア州選出の民主党下院議員ジェリー・コノリー氏は、米国は他のAIに対抗するために設計されたAIツールの開発に資金を投入する必要があると述べた。
バッファロー大学のデビッド・ドーマン教授は、AIが生成した誤情報によってもたらされる政治的、社会的課題に効果的に対応するには、より優れた技術とより優れた規制の両方が必要になると述べた。
マイ・アン（AP通信による）
[広告2]
ソース
コメント (0)