AI（人工知能）を用いて偽情報を作成し、米国大統領選挙に影響を与えることは、もはや懸念事項ではなく、現実のものとなっている。1月22日、ニューハンプシャー州司法省（米国）は、ジョー・バイデン大統領の偽の音声録音を受け取った一部の人々が、地方予備選挙で投票しないよう求める内容の録音を受け取ったという状況について通知を出した。
AIを活用したディープフェイク技術を使って作成されたこの録音は、有権者に投票用紙を「保存」するよう促し、「国民の投票が来週の火曜日ではなく11月に変化をもたらすだろう」と主張している。
ジョー・バイデン米大統領の声が有権者に投票しないよう促すために偽造された
ブルームバーグによると、音声詐欺検出会社ピンドロップ・セキュリティーは、偽のバイデン氏の音声が、人工知能音声生成器の開発を専門とするAIスタートアップ企業イレブンラボの技術によって作成されたことを発見した。同社は文脈に基づいてコンテンツに人間のようなイントネーションを加えることができる言語モデルを使用している。
同社は数千種類のAI音声をあらかじめ用意しており、ユーザーはそこから選択したり、独自のバージョンを作成したりできる。ElevenLabsのウェブサイトによると、ディープフェイク技術で作成された政治家の音声は、風刺や似顔絵など、特定の状況で使用できるとのことだ。
「当社は音声AIツールの不正使用防止に尽力しており、不正使用を極めて深刻に受け止めています」と同社は声明で述べた。同社は、選挙に関連してジョー・バイデン大統領の偽の音声クリップが作成されたことが判明した直後に、当該アカウントを停止した。
カーネギーメロン大学のコンピュータサイエンス教授、キャスリーン・カーリー氏は、今回の事件は投票抑圧に関して「氷山の一角」に過ぎないと述べた。「これは、今後何が起きるかの兆しに過ぎません」とカーリー氏は強調した。
[広告2]
ソースリンク
コメント (0)