悪意のある AI ユーザーのリストのトップは政治的ディープフェイクです。

Google DeepMind の調査によると、偽の人間の画像、 ビデオ、音声を作成することは、AI チャットボットなどのツールを使用して誤情報を作成することよりもほぼ 2 倍一般的です。

分析によると、合成AIを悪用する行為者の最も一般的な目的は、世論の形成または影響を与えることである。これは利用状況の27%を占めており、ディープフェイクが今年の世界的な選挙にどのような影響を与えるかについて懸念が生じている。

総選挙を前に、リシ・スナック英首相を描いた偽のアート作品がTikTokとインスタグラムに登場した。写真：AFP

ここ数ヶ月、リシ・スナック英国首相をはじめとする世界の指導者たちのディープフェイク動画がTikTok、X、Instagramに登場している。英国の有権者は来週、総選挙に臨む。

ソーシャルメディアプラットフォームがそのようなコンテンツにラベルを付けたり削除したりする努力をしているにもかかわらず、視聴者がそれを偽物だと認識せず、その拡散が有権者に影響を与える可能性があるという懸念がある。

アラン・チューリング研究所の研究員アルディ・ジャンジェバ氏は、この論文の調査結果を「特に関連性が高い」と呼び、AIが生成した公開情報は「社会政治的現実に関する私たちの共通理解を歪める」可能性があると示唆した。

「ディープフェイクが投票行動にどのような影響を与えるかは不明だが、こうした歪みは短期的には検知が難しい可能性があり、長期的には民主主義にリスクをもたらす」とジャンジェバ氏は付け加えた。

「こうしたツールが引き起こす、かなり高度なサイバー攻撃をめぐっては多くの懸念がある」と、グーグル・ディープマインドの研究主著者、ナヘマ・マルシャル氏は述べた。

Google DeepMindとJigsawの研究者は、ソーシャルメディアプラットフォームXとReddit、および誤用に関するオンラインブログやメディアレポートから収集した、2023年1月から2024年3月までのAIの誤用事例約200件を分析しました。

2番目に多い悪用の動機は金銭の搾取であり、実在の人物のヌード画像の作成や、AIを用いてフェイクニュース記事などの様々なコンテンツを生成することが含まれます。多くの場合、「最小限の技術的専門知識」で容易に入手できるツールが利用されているため、多くの悪意のある行為者がAIを巧みに悪用することが可能です。

ゴック・アン（FTによると）

出典: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html