Google DeepMindの調査によると、人間を装った画像、動画、音声を作成することは、AIチャットボットなどのツールを使用して誤情報を作成することのほぼ2倍一般的です。
分析によると、合成AIを悪用する者の最も一般的な目的は世論を形成または影響を与えることであり、使用目的の27％を占めており、ディープフェイクが今年の世界中の選挙にどのような影響を与えるかについて懸念が生じている。
総選挙を前に、リシ・スナック英首相の偽アート作品がTikTokとインスタグラムに登場した。写真：AFP
ここ数ヶ月、リシ・スナック英国首相をはじめとする世界の指導者たちのディープフェイク動画がTikTok、Xbox One、Instagramに登場している。英国の有権者は来週、総選挙に臨む。
ソーシャルメディア側がそのようなコンテンツにラベルを付けたり削除したりしようと努力しているにもかかわらず、視聴者がそれを偽物だと認識せず、その拡散が有権者に影響を与える可能性があるという懸念がある。
アラン・チューリング研究所の研究員アルディ・ジャンジェバ氏は、AIによって生成された公開情報が「 社会政治的現実に対する我々の共通理解を歪める可能性がある」とする論文の調査結果を「特に関連性が高い」と述べた。
「ディープフェイクが投票行動に与える影響については確信が持てないとしても、こうした歪みは短期的には検出が難しく、民主主義に長期的なリスクをもたらす可能性がある」とジャンジェバ氏は付け加えた。
「こうしたツールを使って行われる非常に高度なサイバー攻撃をめぐっては、多くの懸念が寄せられている」と、グーグル・ディープマインドの研究主著者であるナヘマ・マルシャル氏は述べた。
Google DeepMindとJigsawの研究者らは、ソーシャルネットワークXやReddit、オンラインブログ、メディアでの誤用に関する報道から収集した、2023年1月から2024年3月までのAIの誤用事例約200件を分析した。
悪用の動機として2番目に多いのは収益化であり、実在の人物のヌード写真の作成や、AIを用いて偽ニュース記事などの様々なコンテンツを生成することなどが挙げられます。ほとんどのシナリオでは「最小限の技術的専門知識」で利用できるツールが利用されているため、多くの悪意のある行為者がAIを創造的に悪用することが可能です。
ゴック・アン（FTによると）
[広告2]
出典: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
コメント (0)