画像、動画からAIの歌まで：ソーシャルネットワーク上のAIコンテンツの「竜巻」にご用心

trí tuệ nhân tạo - Ảnh 1. — AIによって編集・追加された画像や動画が、視聴者を集めるためにソーシャルネットワークに投稿されることが増えている - 写真：DUC THIEN

過去には、偽の写真を作成するために、一般ユーザーは Photoshop の専門家を雇わなければなりませんでしたが、今日の AI では、5 分以内に基本的なスキルがあれば、偽の写真のセットをどこにでも作成できます。

AIが画像、動画、歌などを作成すると、信じられないほどリアルになります

毎日定期的にFacebookを閲覧している広報スタッフのホアン・ミーさん（ホーチミン市）は、ユーザーが投稿するAIツールの介入を伴うコンテンツがますます増えていると語った。

「友人やグループのメンバーが投稿した写真の多くは、あまりにもリアルなので、本人が言わなければAIが使われているかどうか分からないほどです。アニメーションや想像、短編映画、現実の出来事に関する動画など、AIツールで作成された動画も増えていますが、私にはそれがAIツールだとは分かりません」とマイさんは語った。

画像や動画だけでなく、ソーシャルネットワークYouTubeでも「AIシンガー」が歌ったり作曲した曲が数多く公開されています。多くのユーザーがこの新しい体験に興奮し、競って友人とソーシャルネットワークで共有しています。

「発表されなければ、AI歌手かどうかは分かりません。ベトナムのサイバースペースではAIコンテンツがますます普及しています。私のような一般ユーザーは、どのコンテンツが人間によるもので、どのコンテンツがAIによるものか、あるいはAIが介入したものなのか、すぐに分からなくなるでしょう」と、ホーチミン市のカン・ハ氏は述べた。

最近、ベトナムの多くのソーシャルネットワーキングプラットフォームでは、障害者が商品を販売する動画やライブ配信が取り上げられ、オンラインコミュニティの共感と共有が活発化しています。

しかし、その後、オンラインコミュニティによって、AIを使って健常者を障害者に仕立て上げる事例が数多く摘発されました。こうした行為の目的は、視聴者の思いやりにつけ込み、商品を販売したり詐欺行為を行ったりすることです。

多くのテクノロジー専門家は、最近、ソーシャルネットワーク上で障害者、病人、恵まれない人々の画像を使ったセールス動画を投稿し、同情を誘うアカウントが増加していると指摘しています。しかし、現実には、こうしたコンテンツの多くはAIツールによって作成または編集されており、営利目的や詐欺目的で、普通の人々を障害者に仕立て上げているのです。

世界をリードする生体認証技術プロバイダーであるiProovのアジア太平洋地域担当副社長、ミルコ・ラドティック氏は、トゥオイ・チェ氏とともに、次のように警告した。「当社の調査によると、参加者の99.9%がディープフェイクを認識できないことが分かっています。今日の高度な検出ツールでさえ、多くの困難に直面しています。」

デジタルユーザーの抵抗を高める

AIOV応用研究・人材開発研究所副所長、LovinBot AI Company創業者兼CEOのダン・フー・ソン氏は、GoogleがAI技術Nano Banana、Veo 3をリリースして以来、ByteDanceがSeedream 4をリリースし、その前にはOpenAIがGPT Imageをリリースして以来、AI市場は非常に活況を呈し、多くの結果をもたらしてきたと語った。

「テクノロジーは今日ほど身近なものになったことはありません。これらはどれも非常に強力なAIモデルで、元の写真と比較してほぼ90％、場合によっては99％の精度で顔を『コピー』することができます」と孫氏はコメントした。

過去には、偽の写真を作成するために、一般ユーザーはPhotoshopの専門家を雇わなければなりませんでしたが、今日のAIでは、基本的なスキルがあれば5分もかからず、偽の写真セットや、切り取って貼り付けられ、ニュースのようなエフェクトが加えられた偽のビデオを、目まぐるしいスピードで拡散できます。

「フェイクニュースは繰り返し発信され、高密度で容易にアクセスできるため、日々接する多くの人々が真実だと信じてしまう。そのため、上記の問題を抑制するための解決策が必要だ」と孫氏は指摘した。

Gianty Vietnam社の技術ディレクター、Trinh Nguyen Thien Phuoc氏によると、AI生成コンテンツを区別するには、(1)ユーザー検証スキル（黄金律とともに）、(2)コンテンツ認証情報（C2PA）、透かし識別サイン（SynthID、AudioSeal）、ディープフェイク検出器などの技術ツール、(3)プラットフォーム、ネットワーク事業者、銀行などの関係者間の調整プロセスという3つの層が必要だという。

特に、黄金律は 30 ～ 60 秒以内に素早く実行する必要があります。これには、見慣れないリンクをクリックせず、公式アプリ/Web サイトにアクセスして確認すること、アクションを強制するキーワード (OTP/送金/緊急) に遭遇した場合は直ちに停止することなどが含まれます。

同時に、ユーザーは信じる前に2つの独立した情報源で検証する必要があります。日付、時間、文脈（新しいニュースに偽装された古いニュース）を確認してください。自分で見つけた公式の番号に折り返し電話をかけ、他の人が提供した番号は使用しないでください。画像やビデオがあれば、ユーザーは関連する結果を検索できます...

多くの専門家は、AIによって生み出される偽コンテンツの波に対処する最も根本的な解決策は、人々の意識を高めることだと考えています。技術的な対策だけに注力するのではなく、トレーニングプログラムやコンテスト、あるいは現実の状況をシミュレーションすることで、人々の情報摂取習慣を変える手助けをする必要があります。

若者、特に学生にとって、オンラインコンテストや著名人やKOLを起用したメディアキャンペーンを組み合わせることで、自然な魅力を生み出し、フェイクニュースやフェイク動画を見分けるスキルを習得しながら、学びと体験を積むことができます。一方、特に地方に住む高齢者は、イラスト入りのリーフレット、教育ビデオ、文化施設や地域活動での上映会など、より身近で直感的な形態を必要としています。

「それぞれのグループに適したアプローチは、短期的な活動に留まらず、強固で長期的な意識啓発の基盤を築くのに役立ちます。例えば、一部のユニットでは、ユーザーがウェブやソーシャルネットワークを閲覧する際にニュースを検証できるよう、Chromeブラウザにインストールできる拡張機能を開発しました」とダン・フー・ソン氏は語りました。

AIを使って偽のAIを検出する

最近、Honorは新たに発売した携帯電話シリーズにAIディープフェイク検出機能を搭載しました。この機能は、Messenger、Zalo、Viber、Google Meetなどのアプリ上で、画像と音声を3秒で分析し、偽造品を警告することで、ユーザーをハイテク詐欺から守る「デジタルシールド」として機能します。

以前、2025年9月にMoMoはiProovと提携してダイナミックライブネス技術を導入し、ユーザーが本物であり、正しいIDを持ち、取引時にその場にいることを確認し、ディープフェイク、偽の動画や画像を使った詐欺を防止すると発表しました。

金融などの高リスク分野では、このレベルのセキュリティは、詐欺の防止、不正アクセスの防止、プラットフォームに対するユーザーの信頼の維持に不可欠です。

トピックに戻る

美徳

出典: https://tuoitre.vn/tu-hinh-anh-video-den-ca-khuc-ai-can-trong-con-loc-noi-dung-ai-tren-mang-xa-hoi-20251109232702736.htm