YouTubeがディープフェイクから画像や音声を保護する「類似性検出」ツールを導入

ディープフェイク動画の蔓延により、現実と偽物の境界線が曖昧になっています。著名人からコンテンツクリエイターまで、誰もがこの技術の犠牲者になりかねません。

この現実に直面して、YouTube や他の多くのオンラインプラットフォームは、創造の自由とデジタル ID の管理の間でバランスを取ろうとしています。

YouTube は AI を活用したなりすまし検出ツールをテストしています。

YouTubeは「類似性検出」という新機能を導入しました。これは、顔の特徴や声の類似性を識別する機能です。クリエイターは、自分の画像や声のなりすましの兆候が見られる動画を発見した場合、このツールから直接認証リクエストを送信できます。

このシステムは人工知能モデルを用いて、顔と音声のデータを申請者の元のプロフィールと比較します。結果が高度に一致した場合、動画はYouTubeのモデレーションチームに送信され、さらなる評価が行われます。

これにより、正当なコンテンツの誤った削除が減り、ディープフェイクの検出精度が向上します。

著作権侵害や著作権侵害コンテンツを報告するための従来のツールとは異なり、新しい認識機能は個人の識別に重点を置いています。なりすましの被害に遭った人は、画像やコンテンツの所有権を証明する必要はなく、顔や声が無断で使用されていることを確認するだけで済みます。

YouTubeによると、このツールの目的は、視聴者が本物と偽物の区別を困難にする画像・音声合成技術を用いた動画が増加している状況において、クリエイターにコントロールを取り戻すことです。このツールは米国で段階的に導入され、来年には他の地域にも拡大される予定です。

ディープフェイクの波に対抗するための措置。

ディープフェイクはもはや娯楽動画や風刺コンテンツに限られません。わずか数年で、この技術は詐欺、政治、情報操作に悪用されるようになりました。広告やセンシティブなコンテンツで有名人の顔や声が改変されるケースが数多くあり、ユーザーの間ではオンラインで目にする情報の信頼性に対する懸念が高まっています。

この波を受けて、ソーシャルメディアプラットフォームは一斉に対策を模索している。Metaは人工知能（AI）によって作成された動画に「AI生成」というラベルを付ける計画を発表し、TikTokは違反報告セクションに「AI生成」オプションを追加し、ユーザーがフェイク動画を報告しやすくした。YouTubeにとって、これは広範かつ制御困難なディープフェイクの波に対処するための積極的な一歩となる。

この機能の導入は、YouTubeがAI時代におけるコンテンツモデレーション基準を再定義しようとする試みを示すものでもあります。YouTubeは著作権侵害動画を処理するだけでなく、クリエイターが自らのデジタルアイデンティティを守るための発言権を持つ仕組みも構築しています。

一部のメディア専門家は、これはテクノロジー企業が「AIへの適応」から「AIの影響のコントロール」へと移行し始めた兆候だと見ている。

しかし、ディープフェイク検出ツールを世界規模で適用するのは容易ではありません。各国のデータ保護法の違いや、有害な偽コンテンツの特定における複雑さは、YouTubeが導入を進める上で直面する課題となるでしょう。

創造性と検閲の境界線

ディープフェイクとの戦いは、コンテンツ制作の限界について疑問を投げかけています。多くの動画制作者は、自動検出ツールが短編映画やイラスト動画といったAIを活用した合法的な作品に影響を与えるのではないかと懸念しています。創造性と偽造の境界線が曖昧になるにつれ、プラットフォームは創造の自由を損なうことなくユーザーを保護する方法を見つけなければなりません。

YouTubeは、この識別ツールは創造性を制限するものではなく、個人の画像を管理する権利を保護するためのものだと主張している。しかし、専門家は、どの動画が有害でどれが正当な作品なのかを判断することは依然として大きな課題であると考えている。

偽物を作成する技術とそれを検出する技術の競争は今後も続くと思われ、YouTube の新しいツールは、ますますバーチャル化が進む時代に真正性を維持するための取り組みにおける小さな一歩に過ぎない。

タン・トゥ

出典: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm