バイトダンスの新しいディープフェイクAIツールが懸念を呼ぶ

TechSpotによると、TikTokを展開する中国のテクノロジー企業ByteDanceが、人間の画像を驚くほどリアルに再現できるディープフェイクシステム「OmniHuman-1」を発表した。OmniHuman-1で作成された動画は、一般視聴者を騙し、デジタルコンテンツにおける本物と偽物の境界線を曖昧にする。

OmniHuman-1 が作成したビデオの多くには、アルバート・アインシュタイン、ジェンスン・フアンなど多くの人物が含まれており、ディープフェイクがいかに驚くほどリアルであるかを実証しています。

写真: OMNIHUMAN-1 スクリーンショット

従来のディープフェイクモデルとは異なり、OmniHuman-1は写真と音声クリップだけで完全な動画を作成できます。ユーザーはアスペクト比や体型を調整したり、既存の動画の動きを編集したりすることも可能です。このAIは手の動きやジェスチャーを高精度に修正できるため、より自然な仕上がりになります。ただし、ワイングラスを持つ不自然な姿勢や、アルベルト・アインシュタインの講義を模した動画における奇妙な手の回転など、細部にはまだ不完全な部分があります。

このモデルは、テキスト、音声、体の動きなど、さまざまなデータソースから学習する「オムニコンディション」アプローチを使用して、18,700時間のビデオでトレーニングされました。

ディープフェイク技術は技術的に進歩しているものの、深刻なリスクも抱えています。近年、ディープフェイクは情報操作、金融詐欺、個人の評判を毀損する目的で利用されています。2024年の大統領選挙では、多くのディープフェイク動画が有権者を欺くために使用されました。昨年は、ディープフェイクを利用した金融詐欺で数十億ドルもの資金が盗まれました。中には、俳優ブラッド・ピットになりすました詐欺師が女性を騙して85万ドルを送金させた事件も含まれています。

こうしたリスクを懸念し、多くのAI倫理専門家がディープフェイクの規制を求めています。米国のいくつかの州では有害なディープフェイクを規制する法律が制定されていますが、包括的な連邦レベルの枠組みは存在しません。カリフォルニア州は、裁判所がディープフェイクの削除を強制し、配布者を処罰できるようにする法案を提案しましたが、立法プロセスは多くの障害に直面しています。

現時点では、ByteDanceはOmniHuman-1のリリース計画を発表していないが、このモデルに関する研究論文が発表されており、成長を続けるディープフェイク技術の可能性とリスクが示されている。

出典: https://thanhnien.vn/cong-cu-ai-deepfake-moi-cua-bytedance-gay-nhieu-lo-ngai-18525020521585617.htm