韓国、AIを使って偽の選挙動画を検出

韓国当局は4月27日、6月3日の大統領選期日前倒しで行われる選挙中に偽のディープフェイク動画が拡散するのを防ぐため、同国の中央選挙管理委員会（NEC）が国立科学捜査院（NFS）が開発したフェイクニュース検出用の人工知能（AI）モデルを導入したと発表した。

この AI モデルは、ギリシャ神話のゼウスが使用した盾にちなんで Aegis と呼ばれています。 NECはAegisを使用して、肉眼では判別が難しいAIによって作成された高度なディープフェイク動画を検出する予定だ。 Aegis は、NFS と韓国電子技術研究院 (KETI) によって共同開発されました。

NFSは、KETIが主催し、情報通信技術計画評価機構が資金提供したプロジェクトの一環として、昨年4月から研究を行っています。このプロジェクトは「AIによる社会的副作用を防ぐための自己進化型ディープフェイク検出技術」と呼ばれています。

Aegisは、韓国警察大学、KAIST、Cleon（AI顔・音声作成会社）、Wysiwyg Studios（映画制作会社）の参加により、プロジェクト2年目に開発されました。 Aegis は、最も難しいディープフェイクビデオを検出するように最適化されています。

2024年1月に施行される韓国の改正公職選挙法では、選挙活動目的でAI生成のディープフェイク動画を制作、配布することは違法となる。しかし、最近では有力な大統領候補をターゲットにしたディープフェイク動画がインターネット上で横行しており、そのほとんどに中傷や名誉毀損の内容が含まれている。たとえば、民主党（DP）のイ・ジェミョン候補が囚人服を着ている様子や、国民の力党（PPP）のハン・ドンフン候補がかつらを外している様子を撮影したディープフェイク動画などだ。

NECは4月9日、3段階の検出プロセスを使用して、偽のAIディープフェイクに関するタスクフォースを立ち上げました。したがって、まず監督者が目視でビデオを確認します。判別が難しい動画の場合は、Aegis のような AI モデルを使って分析し、最終的に AI の専門家による評価が行われます。

NECの担当者は「検知精度が高いNFSのイージスを主に使っているが、他社製品との相互検証も行っている」と語った。

Aegis は、AI 画像生成の最新手法の 1 つである拡散法によって生成された出力を検出するように設計されています。 AI 画像生成方法には、生成的敵対ネットワーク (GAN) と拡散モデルの 2 つが主に存在します。 GAN は、2 つの競合するニューラルネットワークを使用して画像を素早く生成しますが、結果として得られる画像は歪んでいることが多く、検出されやすくなります。

対照的に、OpenAI の Midjourney や DALL-E などの最近の画像ジェネレーターは、拡散アプローチ (画像に人工的なノイズを追加し、その後ノイズを除去して高解像度で高品質の画像を生成する) を使用します。したがって、拡散法によって生成された画像は、従来の検出技術のみを使用して実際の画像と区別することがはるかに困難です。
Aegis は、拡散方式を使用して作成されたディープフェイクビデオも検出できるように改良されました。

「我々は、ディープフェイクやディープフェイクを検出するだけでなく、作成されたコンテンツが悪意のある目的のものかどうかを分析するために、Aegisを装備している」とNFSの担当者は述べた。

（ベトナム通信社/ベトナム+）

出典: https://www.vietnamplus.vn/han-quoc-su-dung-tri-tue-nhan-tao-phat-hien-video-gia-mao-ve-bau-cu-post1035586.vnp