コメンテーターのアン・クアンは助けを求めて叫ぶ。

コメンテーターのアン・クアン氏。写真： FBNV

有名人のなりすましにAI生成画像を使用する手口がますます広まっており、影響力のある人物とそのファンに影響を及ぼしている。エンターテインメント業界のアーティストだけでなく、この問題は他の多くの分野にも広がっている。最近では、ベトナムで最も人気があり影響力のあるソーシャルメディアパーソナリティの一人であるコメンテーターのアン・クアン氏が、人工知能を使った詐欺師になりすまされた後、オンラインで助けを求めざるを得なかった。

「信じないでください、これは詐欺です。AIを使って私の顔と声を偽装した人物に関するメッセージを多数受け取りました。私は常に法律を遵守しており、違法行為を助長することはありません。これを見た人は、通報するか、あるいは単にスクロールして通り過ぎてください。これは間違いなく私ではありません」と、130万人以上のフォロワーを持つアン・クアンは自身の公式Facebookページに投稿した。

コメンテーターのアン・クアンによる警告投稿。写真： FBNV。

その投稿には、解説者がサッカー賭博の広告に誤って関連付け、違法な賭博サイトに誘導する偽の動画の写真が添付されていた。

膨大な量の動画を制作する著名人であるコメンテーター、アン・クアン氏のAI生成による偽動画は、非常に高い信憑性を持っている。このような制作手法では、入力データが膨大かつ詳細であればあるほど、結果として得られる偽動画はよりリアルになり、本物と見分けるのが難しくなる。

顔や声のなりすましツールは現在、一般に公開されており、簡単に使用できる。膨大な処理能力と複雑なアルゴリズムを必要とした過去のディープフェイク技術とは異なり、現代のAIソフトウェアははるかに普及しており、価格も安価になっている。

評論家のアン・クアン氏に先立ち、ドゥック・フック氏、カット・トゥオン氏、ダム・トゥ・チャン氏、ミー・タム氏、ホー・ゴック・ハ氏、テレビ司会者のホアイ・アイン氏など、多くの著名アーティストが、AIが彼らの画像や声を偽装した不正な広告動画について、一斉に警告を発した。この問題は長年にわたり存在しているにもかかわらず、いまだに完全な解決策がなく、アーティストと視聴者の両方を有害な情報の悪循環に陥らせている。

出典：https://znews.vn/blv-anh-quan-keu-cuu-post1621255.html