オンラインで何百万回も閲覧されているこれらの画像は、人工知能（AI）を用いて作成されたディープフェイクです。よく見ると、奇妙な曲線を描く指や不自然な光を放つ目など、その特徴がはっきりと分かります。
しかしながら、これらのディープフェイク画像が引き起こした怒りは現実のものである。
イスラエルとハマスの戦争の写真は、リアルな画像を作成するために使用されるプロパガンダのツールとしての AI の危険性を、生々しく痛々しく示しています。
先月戦闘が始まって以来、ソーシャルメディア上で出回っているデジタル加工された写真は、犠牲者の責任について虚偽の主張をしたり、実際には起こっていない残虐行為について人々を誤解させたりするために使われてきた。
パレスチナ人がガザ地区の瓦礫の中から持ち物を拾い集めている。AP通信の写真。
技術の進歩はますます頻繁に起こり、監視はほとんど行われていません。そのため、AIが新たな兵器となるリスクは明らかであり、将来の紛争、選挙、その他の主要な出来事において何が起こるかを早期に予見することができます。
「事態は良くなる前に、さらに悪化するだろう」と、サンフランシスコとパリに拠点を置き、AIを使ってオンライン苦情の妥当性を評価するテクノロジー企業CREOpointのCEO、ジャン＝クロード・ゴールデンスタイン氏は述べた。
彼の会社は、ガザから発信された最も拡散されたディープフェイク画像のデータベースを構築した。「画像、動画、音声。生成AIによって、これはかつてないほどの進歩です」と彼は述べた。
戦争による偽情報を追跡する非営利団体「デジタルヘイト対策センター」のCEO、イムラン・アーメド氏は、このような画像を作成するプロパガンダは人々の心の奥底にある衝動や不安を狙うのが巧みだと語った。
画像が恐ろしいほど、ユーザーはそれを記憶し、共有する可能性が高くなり、意図せずしてさらなる誤情報を拡散させてしまう可能性があります。ロシアとウクライナの紛争以降、AIが生成した同様の誤情報が実際に拡散し始めています。
新たな紛争や選挙シーズンのたびに、偽情報の活動家にとって新たな機会が生まれ、多くのAI専門家や 政治学者が、米国、インド、パキスタン、ウクライナ、インドネシア、メキシコなど、いくつかの国で主要な選挙が行われる来年のリスクについて警告している。
AIとソーシャルメディアがアメリカの有権者に嘘を広めるために利用されるリスクについて、ワシントンの両党の議員が警告を発している。ディープフェイク技術の危険性に関する最近の公聴会で、バージニア州選出の民主党下院議員ジェリー・コノリー氏は、米国は他のAIに対抗するために設計されたAIツールの開発に資金を投入する必要があると述べた。
バッファロー大学のデビッド・ドーマン教授は、AIによって生成された誤情報によってもたらされる政治的、社会的課題に効果的に対応するには、より優れた技術とより優れた規制の両方が必要になると述べた。
マイ・アン（AP通信による）
[広告2]
ソース
コメント (0)