新しいビデオ生成AI技術はユーザーに多くの機会を提供するが、リスクも伴う。
7月9日、ホーチミン市警察は、通報受付と犯罪告発の活動を通じて、AI動画作成技術「Veo 3」による詐欺事件は記録されていないと発表した。しかし、この技術にはプラス面もある一方で、犯罪者が違法行為に悪用する可能性があるため、警戒を怠らないようにする必要がある。
ホーチミン市警察サイバーセキュリティ・ハイテク犯罪対策局（PA05）によると、ユーザーが音声変更や顔変更を伴う動画、画像、ライブストリームを作成できる生成AIアプリケーション（人工AIとも呼ばれる）（Swapface、SoraAI、ChatGPT、Deepseekなど）の人気が高まっている。
2025年5月末、GoogleはFacebook、Xなど人気のソーシャルネットワーキングプラットフォームで熱狂を巻き起こしている新しいAIビデオ作成技術、Google Veo 3をリリースしました。人物と背景の両方の画像、コンテンツ、動きを作成する機能、特にオンデマンドでサウンド効果とナレーションを自動的に作成する機能により、多くの視聴者にとって、それがAI製品なのか、実際のシーンなのかを区別することが困難になっています。
プラスの効果（コンテンツ作成、教育、映画、メディアなどにおける大きな可能性）の他に、この技術は対象者によって違法行為を犯すために悪用される可能性もあります。
たとえば、悪意のある人物が人物の画像から Veo 3 の技術を利用して、写真の所有者の顔、写真の人物がよく訪れる地理的位置、よく利用する製品やサービス、生活習慣など、多くの重要な情報を自動的に「抽出」することができます。こうして、サイバースペースから取得した画像と音声のみで顔と声を再現し、そこからリアルな「デジタル コピー」を作成することができます。
AI技術を使った詐欺師の常套手段は、「デジタルコピー」を作成した後、親戚や政府機関（警察、裁判所、検察庁、税務署、病院など）になりすました人物にビデオ通話をさせて、要求通りに行動するよう要求したり、パニックに陥ったふりをして緊急援助を要請したりすることで被害者の不安につけ込み、被害者が金銭を振り込むと詐欺師は即座に「姿を消す」というものだ。
さらに、悪意のある人物は、このツールを、ポルノコンテンツ、虚偽の情報の拡散、財産の強奪など、その他の違法な目的に使用することもできます。
PA05によると、今後も悪意のある者は科学技術の発展を悪用し、不正行為を働いたり、操作したり、実行したりするだろう。一方で、人々の識別、自己予防、警戒に関する知識と意識は依然として限られている。
今後、サイバー空間における不正な資産流用行為に対する取り締まりの有効性を高めるため、市警察は引き続き公安部に報告し、党と国家に助言して、法の回廊の完成、国家による安全と秩序の管理活動、草の根レベルでの国家安全を守るための全人民運動への大衆の動員活動、意識と警戒心の向上、サイバー空間における不正な資産流用行為の防止と摘発の有効性の向上を図ります。
さらに、ホーチミン市警察は人々に次のことを推奨しています。
予期せぬ状況に関する内容の知らない番号からのメッセージや電話には警戒してください。情報を注意深く確認し、検証し、正確性を判断してください。絶対に耳を傾けず、指示に従い、悪意のある人物の要求に応じて送金せず、メッセージやメールなどで送信された出所不明のリンクにアクセスしないでください。
悪意のある人物が画像、動画、音声などの情報を盗む事態を回避するために、公開ソーシャル ネットワーキング プラットフォームへの個人情報に関連するコンテンツの投稿を制限します。同時に、個人のソーシャル ネットワーキング アカウントをプライベート モードに設定して情報を保護します。オンライン アプリケーションは、携帯電話のオペレーティング システムの公式ソース (CH Play、AppStore) からのみインストールします。
上記のトリックを使用した詐欺を発見した場合、または詐欺の疑いがある場合は、タイムリーなサポートと解決のために最寄りの警察機関に速やかに報告する必要があります。
出典: https://tuoitre.vn/cong-an-tp-hcm-can-trong-voi-mat-trai-cua-cong-nghe-tao-video-ai-veo-3-20250709172731831.htm
コメント (0)