バイトダンスの新しいディープフェイクAIツールが懸念を呼ぶ

TechSpotによると、TikTok を開発している中国のテクノロジー企業 ByteDance が、人間の画像を驚くほどリアルに再現できるディープフェイク システム OmniHuman-1 を発表したそうです。 OmniHuman-1 によって作成されたビデオは、平均的な視聴者を騙す可能性があり、デジタル コンテンツにおける本物と偽物の境界を曖昧にします。

OmniHuman-1 が作成したビデオの多くには、アルバート・アインシュタイン、ジェンスン・フアンなど多くの人物が含まれており、ディープフェイクがいかに驚くほどリアルであるかを実証しています。

写真: OMNIHUMAN-1 スクリーンショット

これまでのディープフェイクモデルとは異なり、OmniHuman-1 では、完全なビデオを作成するのに写真とオーディオ クリップのみが必要です。ユーザーは、アスペクト比や体の構成を調整したり、既存のビデオの動きを編集したりすることもできます。このAI（人工知能）は、手の動きやジェスチャーを高精度に変更することができ、製品をより自然に見せることができます。しかし、ワイングラスを持つ不自然なポーズや、アルベルト・アインシュタインの講義を再現した動画で手が奇妙に曲がっているなど、細部はまだ完璧ではない。

このモデルは、テキスト、音声、体の動きなど、さまざまなデータソースから学習する「オムニコンディション」アプローチを使用して、18,700時間のビデオでトレーニングされました。

技術的な進歩にもかかわらず、ディープフェイク技術は深刻なリスクももたらします。近年、ディープフェイクは情報操作、金融詐欺、個人の評判の攻撃に悪用されています。 2024年の選挙では、有権者を欺くために多くのディープフェイク動画が使用されました。昨年、ディープフェイクを使った金融詐欺で数十億ドルが盗まれたが、その中には、詐欺師が俳優ブラッド・ピットになりすまして女性を騙し、85万ドルを送金させた事件もあった。

こうしたリスクを懸念して、多くのAI倫理の専門家はディープフェイクを規制するための規制を求めている。米国のいくつかの州では有害なディープフェイクを禁止する法律が制定されているが、包括的な連邦法の枠組みはまだ存在しない。カリフォルニア州は、裁判所がディープフェイクの削除を強制し、それを配布する者を処罰できるようにする法案を提案したが、立法プロセスは多くの障害に直面している。

現時点では、ByteDanceはOmniHuman-1のリリース計画を発表していないが、このモデルに関する研究論文が発表されており、成長を続けるディープフェイク技術の可能性とリスクが示されている。

出典: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm