国際ジャーナリストセンター（ICFJ）が主催した、真実を伝えることを目的とした最近の国際会議では、専門家たちがディープフェイクやその他の悪意のあるAIツールへの対策に焦点を当てた。
ジャーナリストがディープフェイク技術がもたらす脅威をより深く理解し、それに対抗するために何ができるかについて助言がなされた。
写真：日本海軍
テクノロジーとその脅威
急速に発展する技術により、ユーザーは顔の特徴を編集したり、アニメーションポートレートを作成したり、動きを追加したり、声を再現したりすることが可能になっている。
このエコシステムの一部として、ディープフェイクは、ユーザーが人物の顔、声、動作のリアルなシミュレーションを作成できる、一種の視聴覚操作技術である。
AIのおかげで、ディープフェイクはこれまで以上に簡単に、しかも非常にシンプルに作成できるようになっている。
著名人の偽動画もますます増えており、多くの場合、音声も捏造されている。ディープフェイクの出現により、ジャーナリストや検閲官は動画の信憑性を確認するという新たな負担を強いられている。
WITNESSのメディアテクノロジスト、シリン・アンレン氏によると、ディープフェイクは最も広く議論されている操作メディアの形態だという。「ディープフェイク自体が、ニュースでますます頻繁に見かけるようになっているものの一部です」と彼女は述べた。
ディープフェイクは普及しつつあるものの、適切に作成するには高度なスキルと知識が必要となるため、一般の人が作成するのは難しい。そのため、多くの加工動画は真のディープフェイクのレベルには達していない。
例えば、人の髪の色、目の色、声などを変えるフィルターは、特にソーシャルメディア上で日常的に目にする操作の一例です。AIが生成した対話や、著名人の発言を捏造したものも、別の例と言えるでしょう。
「ディープフェイクは実際には大規模には使われていません」とアンレン氏は述べた。「現在、偽情報が出回っている状況で見られるもののほとんどは、低品質の偽物で、文脈を改変したものがほとんどです。」
検出方法
あらゆる新技術には欠点があり、ディープフェイクも例外ではありません。例えば、ユーザーは映像が途切れ途切れだったり、口の動きと音声が一致しなかったりといった不具合に気づく可能性があります。
しかし、技術も非常に速いスピードで進化している。ソーシャルメディア上で情報が氾濫する時代において、タイムリーな検知と対応は極めて困難である。
「初期のディープフェイクは、目の動きで簡単に見破ることができました。しかし、最新世代では目が瞬きしたり、静止しなくなったりするなど、技術が進化しています。この技術は常に更新されており、今後ますます見破るのが難しくなるでしょう」とアンレン氏は指摘した。
ソリューション
ディープフェイクを検出する方法としては、ジャーナリストは動画コンテンツの誤りや歪みを検証したり、既存の検証技術や鑑識技術を適用したり、利用可能な場合はAIベースのディープフェイク検出手法を活用したりすることができる。
メディアリテラシーを高めるためのツールを強化し、ジャーナリストに対してメディア操作に関するさらなる研修を提供することも不可欠である。
「今から準備を始める必要がある」とアンレン氏は述べた。「技術を真に形作り、その構築方法を形作るためには、背景を理解する必要がある。そうすることで、新たな技術に受動的に影響されることを避けられる。」
ホアン・トン（日本海軍によると）
ソース
