政治ディープフェイクがAIの悪意ある利用法のトップに

Google DeepMindの調査によると、人間を装った画像、動画、音声を作成することは、AIチャットボットなどのツールを使用して誤情報を作成することのほぼ2倍一般的です。

分析の結果、合成 AI を悪用する行為者の最も一般的な目的は世論を形成したり影響を与えたりすることであることがわかった。この数字は使用量の27％を占めており、ディープフェイクが今年の世界中の選挙にどのような影響を与えるかについて懸念が生じている。

総選挙を前に、英国のリシ・スナック首相の偽画像がTikTokやインスタグラムに登場した。写真：AFP

ここ数カ月、英国のリシ・スナック首相や他の世界の指導者のディープフェイクがTikTok、X、インスタグラムに登場している。英国の有権者は来週、総選挙に投票に行く予定だ。

ソーシャルメディア側がそのようなコンテンツにラベルを付けたり削除したりしようと努力しているにもかかわらず、視聴者がそれを偽物だと認識せず、その拡散が有権者に影響を与える可能性があるという懸念がある。

アラン・チューリング研究所の研究員アルディ・ジャンジェバ氏は、AIによって生成された公開情報が「社会政治的現実に対する我々の共通理解を歪める可能性がある」とする論文の調査結果を「特に関連性が高い」と述べた。

「ディープフェイクが投票行動に与える影響については確信が持てないとしても、こうした歪みは短期的には検出が難しく、民主主義に長期的なリスクをもたらす可能性がある」とジャンジェバ氏は付け加えた。

「こうしたツールを使って行われる非常に高度なサイバー攻撃をめぐっては、多くの懸念が寄せられている」と、グーグル・ディープマインドの研究主著者であるナヘマ・マルシャル氏は述べた。

Google DeepMindとJigsawの研究者らは、ソーシャルネットワークXやReddit、オンラインブログ、メディアでの誤用に関する報道から収集した、2023年1月から2024年3月までのAIの誤用事例約200件を分析した。

不正行為の2番目に多い動機は収益化であり、これには実在の人物のヌード写真を作成したり、AIを使用して偽のニュース記事などのさまざまなコンテンツを生成したりすることが含まれます。ほとんどのシナリオでは、「最小限の技術的専門知識を必要とする」アクセス可能なツールが使用されるため、多くの悪意のある行為者が創造的な AI を悪用する可能性があります。

ゴック・アン（FTによると）

出典: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html