悪意のある人物が AI を使用して機密画像やビデオを操作し、他人の名誉を毀損したり、恐喝したりする可能性がある - 写真: AI 描画。
これまで、ある人物の顔を別の人物の身体に重ね合わせるという手法について議論する場合、Photoshop などの専門的な写真編集ソフトウェアが使用されることが多かったが、これは手間がかかり、肉眼でもすぐにわかるものだった。
現在では、AI ツールを使えば、それを「ほんの数瞬」で簡単に行うことができますが、肉眼で検出するのは容易ではありません。
脅迫目的でセックスビデオに顔を入れ替える。
Hさん（ホーチミン市の企業の取締役）は仕事上のつながりで、ソーシャルメディアで頻繁に交流しています。
ある時、若い女性が彼に近づき、仕事について尋ねました。しばらくして、仕事のことや私生活のことなどを語り合い、二人はすっかり親しくなりました。
二人の間では愛情のこもった言葉が詰まったテキストメッセージや、写真のやり取り、お互いの顔が見えるビデオ通話も数多く行われていた。
ある日、H氏は少女の夫を名乗る人物から電話を受けました。「警告」の後、その「夫」はH氏に、慰謝料を支払わなければ、チャットログや性行為動画のスクリーンショットを親戚やビジネスパートナーに送る危険を冒すと脅しました。
その後、H氏は「夫」から、自分と相手女性のセックスビデオや、二人の電話のビデオ、親密なテキストメッセージのスクリーンショットを見せられた…
「あの女には会ったことがないから、セックスビデオは編集されているに違いない」とH氏は主張した。しかし、セックスビデオに映っている女の顔とビデオ通話に映っている女の顔は完全に一致しており、ロマンチックなメッセージのスクリーンショットも含まれていたため、H氏は名誉を守るため「夫」に何度も送金せざるを得なかった。
トゥオイ・チェー紙の調査によると、H氏は完璧に仕組まれたシナリオに基づいた組織的な詐欺の被害者だった。この詐欺で、H氏はディープフェイク技術に二度騙された。一度目はビデオ通話、二度目はセックスビデオだった。
驚くべきことに、このセックスビデオではH氏の顔が巧妙に重ね合わされており、視聴者はそれが偽物だとは信じ難いほどでした。AI専門家はTuổi Trẻ紙に対し、犯人は動画に顔を完璧に重ね合わせることができる新しいAIツールを使用し、信じられないほどリアルに見せていたと認めました。
AI 顔交換ツールは無数に存在します。
現在では、希望する顔を持つ人物像を作成したり、希望する顔を別の人物の体に重ね合わせたりする機能を備えた AI 搭載ツールが数多く存在します。
これらのツールの中には、写真に写っている人物の顔を「剥ぎ取る」ことで普通の写真をヌード画像に変換したり、動画内の人物の顔を任意の顔に置き換えたりするなど、悪意のある目的に使用できる機能を備えたものもある...
これらの AI ツールのほとんどは試用期間を提供しており、有料版では完全な機能と非常に高速な変換時間が提供されます。
たとえば、顔を他の人の体と入れ替える機能では、ユーザーは対応する写真を 2 枚アップロードし、結果が表示されるまで数秒待つだけです。
あるいは、通常の写真からヌード画像を作成する機能では、AI ツールはそれをわずか数十秒という非常に高速に実行し、視聴者に衝撃を与えます。
セックスビデオの顔を置き換える機能も、AIツールによって非常に高速に実行され、数秒しかないビデオの場合は1分もかかりません。
サイバーセキュリティ企業VNetworkの研究開発チーム責任者、グエン・キム・トー氏は、トゥイ・トリア紙の取材に対し、「ディープフェイク」という言葉を分析した。ディープフェイクとは、視聴者を騙して本物だと信じ込ませるためにAIを使って作成された偽の動画や画像を指す。
ディープフェイク技術は、ニューラルネットワークなどのディープラーニングモデルを使用して、人物の顔や音声データを分析し、その人物と全く同じように見える偽のコンテンツを作成します。
「強力なアルゴリズムのおかげで、悪意のある人物は被害者の顔をセンシティブなビデオ（セックスビデオ、ポルノなど）に重ね合わせたり、画像を編集して偽のヌード写真を作成したりすることができます。」
「ディープフェイクのソフトウェアやアプリケーションは、モバイルアプリ、オープンソースソフトウェア、無料オンラインサービスなども含めて、インターネット上で非常に一般的になり、誰でも簡単に偽の動画や写真を作成するツールにアクセスできてしまうため、人々は警戒する必要がある」とトー氏は述べた。
「セックスチャット」には近づかないでください。
多くの詐欺は、オンラインで友達になり、被害者を「セックスチャット」に誘い込んだり、センシティブな写真を送信したりすることから始まります。そのため、たとえ約束や脅迫があったとしても、オンラインでしか知り合っていない相手にプライベートな画像や動画を送信してはいけません。
あなたが共有するコンテンツ（プライベート メッセージ経由であっても）は、記録（スクリーンショット、ビデオ）され、その後編集されてあなたに不利に使用される可能性があることを常に覚えておいてください。
ビデオ通話をしている場合は、デリケートな内容を提供してくる見知らぬ人に注意してください。偽の画面であったり、録画されている可能性があります。
サイバーセキュリティの専門家は、ユーザーに対し、オンラインでのやりとりだけに基づいて誰かを信頼することは絶対に避け、機密情報を共有する前に相手の身元と意図を確認するようアドバイスしています。
また、脅迫目的で「ヌード」写真を公開するという脅迫メッセージや電話を受けた場合でも、恐れたり、慌てて送金したりする必要はありません。
専門家によると、金銭を支払っても犯人が動画を削除するとは限らず、さらに要求を続けたり、コンテンツをオンラインにアップロードし続ける可能性もあるという。
ユーザーは犯罪者の要求に応じるのではなく、証拠（メッセージ、電話番号、連絡先アカウント、脅迫的な内容など）を収集し、すぐに最寄りの警察署に通報するか、 公安部のVNeIDアプリケーションを通じて事件を報告して、タイムリーな支援を受ける必要があります。
どうすれば識別できるのでしょうか?
グエン・キム・トー氏によると、本物の画像や動画とディープフェイクの画像や動画を区別することはますます難しくなっているが、識別に役立つ兆候やツールはまだいくつかあるという。
ディープフェイクコンテンツには視覚的および音声的な異常があることがあるため、ユーザーはこれを手動で観察できます。
例えば、合成画像では、重ね合わせた顔と体の間にノイズや色の不一致が見られる場合があります。偽の動画では、音声と映像が一致していない（唇の動きが会話と一致していない）場合や、表情が硬直して不自然に見える場合があります。
これまで、一部のディープフェイク動画では、登場人物が瞬きをしていなかったり、顔の照明や影が背景と一致していなかったりするなど、動画が編集されている兆候が見られた。
テクノロジーは進歩していますが（たとえば、新しいディープフェイクではリアルな瞬きの動きが追加されています）、目の肥えた視聴者は依然として動画や写真の中に不合理な詳細を見抜くことができます。
研究者たちは現在、ディープフェイクの痕跡を自動的に検出するためのさまざまなアルゴリズムを開発している。
AI によって生成されたコンテンツは、多くの場合、機械が認識できる固有の「デジタル指紋」を各ピクセルに残します。
たとえば、インテルは、ビデオを分析してビデオ内の人物が実在の人物なのか AI によって生成されたものなのかを判断できる初のリアルタイム ディープフェイク検出機能を導入しました。
さらに、一部のウェブサイトでは、ユーザーが動画や写真をアップロードして、その真偽を確認できるようになっています（例：Deepware、Sensity AIなど）。これらのシステムは、新しいディープフェイク技術に対応するために常に更新されています。
特に、ディープフェイク動画の多くはソーシャルメディア上の偽アカウントやボットを通じて拡散されているため、ユーザーはセンシティブな動画や画像に遭遇したときに、そのソースとコンテキストを確認することができます。
個人に関するセンシティブなコンテンツが非公式の情報源や匿名アカウントから発信された場合、その信憑性は疑わしい。コンテンツに登場した人物に直接連絡を取り、本当にその人物が投稿したのかどうか確認してみる価値はあるだろう。
さらに、このようなプロジェクトは、画像や動画の作成段階から認証情報（デジタル署名）を埋め込むことを促進しており、オリジナルコンテンツと編集されたコンテンツを区別するのに役立ちます。将来的には、ユーザーはこれらの認証マーカーを使用して信頼できるコンテンツを識別できるようになるかもしれません」とトー氏は述べました。
自己防衛のための5つのヒント
1. 機密性の高いプライベートな写真やビデオ（特にヌード写真、家族写真、子供の写真）の共有を制限します。
2. ソーシャル メディア アカウントを非公開に設定します (信頼できる人とのみ共有します)。
3. 公開ソーシャル メディアで個人情報 (氏名、電話番号、住所など) を過度に提供することは避けてください。
4. ハッキングを防ぐために、強力なパスワードを設定し、アカウントに 2 要素認証を有効にします。
5. 自分の名前と画像を Google で定期的に検索し（または Google Image や TinEye などの逆画像検索ツールを使用して）、自分の写真が違法に投稿されていないか確認し、すぐに削除を依頼してください。
出典: https://tuoitre.vn/dung-ai-ghep-hinh-anh-nhay-cam-de-tong-tien-20250317075948373.htm
コメント (0)