音声ディープフェイク、誤報に関する新たな懸念

[広告_1]

月曜日、ニューハンプシャー州司法長官事務所は有権者操作の可能性について捜査を開始すると発表した。これは、ジョー・バイデン米大統領とそっくりな偽の声が、州の予備選挙で投票しないよう有権者に呼びかけているという苦情を受けてのことだ。

研究者らはまた、ディープフェイク音声が政治家や指導者を模倣するために使用されていることにも警告しており、2023年には英国、インド、ナイジェリア、スーダン、エチオピア、スロバキアで顕著な事例が発生すると予想されている。

ディープフェイク新音声新情報偽画像 1 — アメリカのニューハンプシャー州で予備選挙に投票する人。写真：ゲッティ

専門家によると、新興企業による安価で効果的なAIツールの登場により、ディープフェイク音声は誤情報の一般的な形態となっている。マイクロソフトは、わずか3秒間の録音から音声を再現できる新しいAIモデルも開発しました。

「視覚的な操作に関しては、誰もがPhotoshopに精通しているか、少なくともその存在を知っています」と、Adobe、Meta、EYのコンサルタントでAIとディープフェイクの専門家であるヘンリー・アジダー氏は述べた。「音声がどのように操作されるかについての認識はほとんどなく、私たちにとっては本当に無防備な状態だ」

ニュースサイトの品質と信頼性を評価するシステム「ニュースガード」は9月、正当なニュースサイトになりすまし、AI生成コンテンツを使って陰謀論や政治的な誤情報を拡散するTikTokアカウントのネットワークを発見した。バラク・オバマ元米大統領のものも含め、ディープフェイク音声録音は数億回も再生されている。

ニュースガードによると、偽のナレーションはアンドレセン・ホロウィッツが支援するイレブンラボが提供するツールで生成されたようで、動画は数億回も視聴されているという。

「当社のプラットフォームのユーザーの99％以上が興味深く、創造的で、役に立つコンテンツを作成していますが、悪用されるケースがあることは認識しており、それを制限するための保護策を継続的に開発し、導入してきました」とイレブンラボは述べています。

ElevenLabs は、2 年前に Google と Palantir の元従業員である Piotr Dabkowski 氏と Mati Staniszewski 氏によって設立され、ワンクリックで基本的な AI オーディオ生成ツールを無料で提供しています。サブスクリプションプランは月額 1 ドルから、より複雑なサービスを求める人向けの月額 330 ドル以上まであります。

昨年、米国の諜報機関は報告書の中で、「高度でよく訓練されたAI音声クローンモデルの公開により、パーソナライズされたAI詐欺が大幅に増加している」と警告した。

政治専門家たちは、金銭目的の詐欺に加え、拡散するディープフェイクの音声クリップや、ロボコールや選挙運動のためのディープフェイクの使用についても警鐘を鳴らしている。「携帯電話をターゲットにすることで、強力で広範囲に及ぶ偽情報キャンペーンを展開できる」と、サイバーセキュリティグループZeroFoxの副社長兼著名なインテリジェンスフェローであるAJナッシュ氏は述べた。

これらの企業の中には、誤情報に対抗するための他の方法を積極的に模索しているところもあります。マイクロソフトは倫理声明を発表し、ユーザーにAIオーディオエンジンの不正使用を報告するよう促した。 ElevenLabs は、自社のシステムによって生成された録音を識別するための独自の検出ツールを構築しました。

人権団体フリーダム・ハウスによると、ナイジェリアの2023年選挙中、AIで操作された動画がソーシャルメディア上で拡散し、「野党候補が不正投票を計画していると示唆している」という。

スロバキアでは、野党候補のミハル・シメチカ氏が不正選挙を企てていたとみられる偽の音声録音が、９月の大統領選挙の数日前に広まった。

「ニューハンプシャー州のディープフェイクは、ディープフェイクがさまざまな方法で混乱を招き、騙す可能性があることを思い起こさせるものだ」と、非営利の消費者擁護団体パブリック・シチズンの代表、ロバート・ワイスマン氏は述べた。「政治的ディープフェイクの時代が到来しました。政策立案者は迅速に行動して安全策を講じなければ、選挙で混乱が生じるでしょう。」

マイ・アン（FTによると）

[広告2]
ソース