悪意のある人物はAIを使ってセンシティブな写真や動画を合成し、他人の名誉を傷つけたり脅迫したりする可能性がある - 写真：AI描画
かつて、ある人物の顔を切り取って別の人物の体に貼り付けるという手法といえば、Photoshop や専用の画像編集ソフトウェアが使われることが多かったが、これは手間がかかり、肉眼でも簡単に認識できるものだった。
現在では AI ツールのおかげで、人々は「いくつかの音符」を入力するだけで簡単にそれを実行できますが、肉眼で検出するのは簡単ではありません。
脅迫目的の顔交換セックスビデオ
H氏（ホーチミン市の企業の取締役）は仕事上のつながりで、ソーシャル ネットワーク上で頻繁に交流しています。
ある時、彼は若い女の子と仲良くなり、仕事について尋ねられました。しばらくして、お互いのことを尋ねたり、おしゃべりしたり、仕事のことや私生活のことを共有したりするうちに、二人はとても親しくなりました。
二人の間では、非常に感情的な言葉が書かれたテキストメッセージや、写真のやり取り、お互いに会うためのビデオ通話も数多く行われていた。
ある日、H氏は突然、少女の夫を名乗る男から電話を受けた。「夫」はH氏を「先制攻撃」し、二人のチャット写真や性行為動画を親戚やパートナーに送りたくないのであれば、損害賠償金を支払えと要求した。
その後、H氏は「夫」から、自分と他の少女のセックスビデオや、2人の間の通話のビデオ、そして親密なテキストメッセージの録画を見せられた...
「私はその女性に会ったことがないので、セックスビデオは間違いなくフォトショップで加工されたものだ」とH氏は断言した。しかし、セックスビデオに映っている女性の顔写真とビデオ通話に映っている女性の顔写真、そして愛情のこもったテキストメッセージの写真は一致しており、H氏は名誉を守るために何度も「夫」に送金せざるを得なかった。
Tuoi Treの調査により、H氏は完璧なシナリオに沿って組織的に詐欺に遭っていたことが判明しました。この詐欺では、H氏はディープフェイクに2度騙されました。1度目はビデオ通話、2度目はセックス動画でした。
特筆すべきは、セックスビデオでH氏の顔が巧妙に移植されていたため、視聴者はそれが顔移植ビデオだとは信じ難かったことです。AI専門家はTuoi Treに対し、犯人は動画に本物の顔のように完璧に移植できる新しいAIツールを使用したと認めました。
顔を交換するAIツールが豊富
現在、希望する顔を持つ人物を作成したり、希望する顔を別の人物の体に合成したりする機能を備えた AI アプリケーション ツールが数多く存在します。
中には、写真に写っている人物の顔を「剥ぎ取る」ことで通常の写真をヌード写真に変えたり、動画に写っている人物の顔を好みの顔に置き換えたりするなど、悪質な目的に利用する機能を備えたツールもあります…
これらの AI ツールのほとんどは試用版として利用可能ですが、料金を支払うことで、非常に高速な変換時間で完全な機能を利用できるようになります。
たとえば、顔を他の人の体に合成する機能では、ユーザーは対応する写真を 2 枚アップロードし、結果が出るまで数秒待つだけです。
あるいは、通常の写真からヌード写真を作成する機能では、AIツールはそれをわずか数十秒で非常に速く実行できるため、視聴者は驚かされます。
セックスビデオの顔を置き換える機能でも、AIツールは非常に高速に実行し、数秒の長さのビデオであれば1分もかかりません。
サイバーセキュリティ企業VNetworkの研究開発チームの責任者であるグエン・キム・トー氏は、 Tuoi Treとのインタビューで、視聴者に本物だと信じ込ませるためにAIによって作成された偽の動画や画像を指すために使用されるディープフェイクという用語について分析した。
ディープフェイク技術は、ニューラルネットワークなどのディープラーニングモデルを使用して、人物の顔や音声データを分析し、その人物とそっくりな偽のコンテンツを作成します。
「強力なアルゴリズムのおかげで、悪意のある人物は被害者の顔をセンシティブなビデオ（「ベッド」ビデオ、ポルノなど）に挿入したり、画像を編集して偽のヌード写真を作成したりすることができます。
ディープフェイクのソフトウェアやアプリケーションは現在、モバイルアプリケーション、オープンソースコード、無料オンラインサービスなどでもインターネット上で非常に人気があり、誰でも簡単に偽の動画や写真を作成するツールにアクセスできるため、人々は警戒する必要がある」とトー氏は述べた。
「セックスチャット」には近づかないでください
多くの詐欺は、オンラインで友達を作り、被害者を騙して「セックスチャット」をさせたり、センシティブな写真を送信させたりすることから始まります。そのため、どんなに約束したり脅迫されたとしても、オンラインでしか知り合っていない相手にプライベートな写真や動画を送信してはいけません。
共有されたコンテンツ（プライベート メッセージ経由であっても）は記録（スクリーンショット、ビデオ）され、その後編集されてあなたに不利に使用される可能性があることを常に覚えておいてください。
ビデオ通話をする場合は、知らない人がデリケートな内容を求めてきたら注意してください。偽の画面だったり、録画されている可能性があります。
サイバーセキュリティの専門家は、ユーザーに対し、オンラインでのコンタクトだけでは決して誰かを信頼せず、機密情報を共有する前に相手の身元と意図を確認するようアドバイスしています。
さらに、脅迫のために「ホットな」写真を公開すると脅すメッセージや電話を受け取った場合でも、ユーザーは恐れて急いで送金する必要はありません。
お金を払っても犯人が動画を削除するとは限らない。犯人は引き続きさらなる要求をしたり、とにかくそのコンテンツをオンラインに投稿したりする可能性があると専門家は指摘する。
ユーザーは犯罪者の要求に従うのではなく、証拠（メッセージ、電話番号、連絡先アカウント、脅迫的なコンテンツなど）を収集し、すぐに最寄りの警察機関に報告するか、 公安部のVNeIDアプリケーションを通じて事件を報告して、タイムリーなサポートを受ける必要があります。
どのように識別しますか?
グエン・キム・トー氏によると、本物の画像や動画とディープフェイクを区別することはますます難しくなっているが、それでも識別できる兆候やそれをサポートするツールはいくつかあるという。
ディープフェイクコンテンツには視覚的および聴覚的な異常がある場合があるため、ユーザーは手動で観察することができます。
例えば、合成画像では、合成された顔と体の間にノイズや色の違いが見られる場合があります。偽の動画では、音声と映像の不一致（唇の動きが会話と一致しないなど）や、表情が硬直して不自然に見える場合があります。
これまで、一部のディープフェイク動画では、登場人物が瞬きをしなかったり、顔の照明や影が状況と一致していなかったりするなど、動画が編集されている兆候が見られた。
テクノロジーは進歩しているものの（たとえば、新しいディープフェイクではリアルなまばたきの動きが追加されている）、注意深い視聴者は依然として動画や写真の中に不合理な詳細を見つけることができる。
研究者たちは現在、ディープフェイクの痕跡を自動的に検出するための多くのアルゴリズムを開発しています。
AI によって生成されたコンテンツは、多くの場合、機械が認識できる独特の「デジタル指紋」を各ピクセルに残します。
たとえば、インテルは、ビデオを分析してビデオ内の人物が実在の人物なのか AI によって生成されたものなのかを判断できる初のリアルタイム ディープフェイク検出機能を導入しました。
さらに、一部のウェブサイトでは、ユーザーが動画や写真をアップロードして、画像の真正性を確認できるようになっています（例：Deepware、Sensity AIなど）。これらのシステムは、新しいディープフェイク技術に対応するために常に更新されています。
特に、ディープフェイク動画の多くはソーシャル ネットワーク上の偽アカウントやボットを通じて拡散されているため、ユーザーはセンシティブな動画や画像に遭遇したときに、投稿元や文脈を確認することができます。
個人に関するセンシティブなコンテンツが非公式の情報源や匿名アカウントから発信された場合、その信憑性について疑念を抱くべきです。コンテンツに登場した人物に直接連絡を取り、本当にその人物が投稿したのかどうか確認してみるのも良いでしょう。
さらに、写真や動画の作成時点から認証情報（デジタル署名）を埋め込むプロジェクトなどを推進し、オリジナルコンテンツと編集されたコンテンツの区別を容易にしています。将来的には、ユーザーはこれらの認証情報を用いて信頼できるコンテンツを識別できるようになるでしょう」とトー氏は述べました。
自分を守るための5つのヒント
1. 機密性の高いプライベートな写真やビデオ（特にヌード写真、家族写真、子供の写真）の共有を制限します。
2. ソーシャル メディア アカウントを非公開に設定します (信頼できる人とのみ共有します)。
3. 公開ソーシャル ネットワーク上で個人情報 (氏名、電話番号、住所など) をあまり多く提供しないでください。
4. ハッキングを防ぐために、強力なパスワードを設定し、アカウントに 2 段階認証を有効にします。
5. 自分の名前と画像を定期的に Google で検索し（または Google Image、TinEye などの逆画像検索ツールを使用）、自分の写真が許可なく投稿されていないか確認し、すぐに削除を依頼してください。
出典: https://tuoitre.vn/dung-ai-ghep-hinh-anh-nhay-cam-de-tong-tien-20250317075948373.htm
コメント (0)