AIの二重性

今こそ、すべてのユーザーが「デジタルシールド」となり、クリックやシェアのたびに注意深く、用心深く、責任を持つべき時です。

AIの利点と微妙な境界線

人工知能がこれほど日常生活に近づいたことはかつてありませんでした。数回のクリックと短いコマンドだけで、驚くほどリアルな音声、画像、そして動画さえも作成できます。AIは時間を節約し、コンテンツ制作コストを削減し、柔軟なデジタルメディアの時代を切り開きます。

しかし、この「現実をリアルにシミュレートする」能力こそが、諸刃の剣となっている。最近、ソーシャルメディアにはディープフェイク技術を用いて作成された動画が溢れている。警察幹部の顔や、デリケートな事件を担当する法執行官の映像が、ナレーションによって操作・歪曲され、国民を欺き、分断させようとするものだ。

このような演出された画像はソーシャルメディア上でますます一般的になりつつあります。

TikTokで話題になった動画では、勤務中の交通警察官の画像に不快なセリフが添えられ、「見せかけの罰金」というハッシュタグが付けられ、警察官が私利私欲のために職権を乱用していると示唆していました。多くのユーザー、特に若者は、映像が非常にリアルで、声と唇の動きが完璧に一致していたため、本物と偽物の区別が非常に困難で、このコンテンツを簡単に信じてしまいました。

ディエンビエン省の若手YouTuberが、AI技術のスキルを「見せびらかしたい」というだけの理由で、行政罰金と強制的な公的謝罪という代償を支払わされた。1月24日午後、ディエンビエン省警察は、サイバーセキュリティ・ハイテク犯罪対策局がトン・ヴァン・T氏（2001年生まれ、ムオンアン郡在住）に対し、交通警察官に関する歪曲された侮辱的な内容を含む捏造動画をAIを用いて作成したとして、750万ドンの行政罰金を科したと発表した。

具体的には、1月7日、Tさんは自身のYouTubeアカウント「Tuyen Vlog」に、「外出中に交通警察に追いかけられた」という衝撃的なタイトルの3分を超える動画を投稿しました。動画では、AI技術を用いて交通警察が市民を追いかけている様子を再現した映像と状況が再現され、法執行機関に対する侮辱的かつ中傷的なエフェクトやコメントが加えられていました。

T氏は警察と協力し、動画の内容全体が「娯楽」目的とAI技術の活用能力を誇示するために捏造されたものであったことを認めた。当局は罰金に加え、T氏に対し虚偽の動画を削除し、個人のYouTubeチャンネルで交通警察に公に謝罪するよう命じた。

デジタル革命、特に人工知能（AI）の急速な発展の時代において、敵対的・反動的な勢力は、このツールをためらうことなく利用し、ベトナム人民警察のイメージを歪曲・毀損することを目的とした捏造画像や虚偽の記事を捏造しています。最近ソーシャルメディアで拡散した、警察官の制服を着た妊婦が「ギャング」風の風貌をした二人の男に脅迫されている写真は、この戦術の明確な証拠です。

AIを使って作成されたこの画像は最近ソーシャルメディアで話題になっている。

一見すると、視聴者はこれを現実の光景と勘違いするかもしれません。「かわいそうな少年がギャングに襲われていた妊娠中の女性警官を助け、知らぬ間に全米を震撼させる事件を発覚…」といったセンセーショナルな見出しが添えられています。しかし、これは実際には映画やエンターテイメント作品の演出されたシーン、あるいはもっとひどいことに、読者の感情を欺き、同情心を抱かせ、法執行機関の信憑性に疑問を抱かせるためにAIが作成した画像です。

さらに懸念されるのは、こうしたコンテンツの拡散は、社会の安全と秩序を守るために昼夜を問わず活動する人民警察の評判とイメージを損なうだけでなく、巧妙な心理戦の一形態でもあるということです。欺瞞的な画像によって当局への信頼が揺らぐと、国家の統一を分裂させようとする敵対勢力の思惑が徐々に明らかになるでしょう。

したがって、国民一人ひとりが警戒心を高め、批判的思考力と偽情報を見分ける能力を養い、虚偽の内容を断固として非難・反駁し、現在のインターネット上の有害情報の波に直面して思想的基礎を守り、社会の安定を維持することに貢献する必要がある。

ホーチミン市では、約1分間の動画がソーシャルメディア上で突然拡散した。動画には、警察官の制服を着た人物が事務所で容疑者を交通違反の自白に「強要」する様子が映っていた。動画の中で、警察官とみられる人物は攻撃的な態度を見せ、絶えず怒鳴り散らし、時には失礼な言葉遣いさえしていたため、国民の怒りを買っている。

しかし、この動画が拡散した直後、ホーチミン市警察は迅速に調査を行い、高度なディープフェイクであることを確認しました。調査結果によると、動画に映っている顔は警察内部の会議の録画から抽出され、悪意のある人物がAI技術を用いて偽のシーンに重ね合わせ、視聴者に実際の出来事であると信じ込ませたものでした。
特に、付随する音声には脅迫的、侮辱的な声が含まれていますが、これは実際には役人の実際の言葉ではなく、視聴者の感情を欺くためにプログラムされ編集された合成AI音声です。

この事件は、ディープフェイク技術を用いて人民警察の名誉を毀損し、中傷する典型的な例であり、サイバー空間における反動勢力や破壊勢力によってますます悪用されている戦術です。重要なのは、このような偽造品が迅速に摘発されなければ、深刻な結果を招く可能性があることです。法執行機関への国民の信頼を損ない、コミュニティ内で抵抗を煽り、虚偽の物語の拡散を助長することになります。これは、フェイクニュースを反駁、検知し、対抗するためのコミュニケーション能力を緊急に強化する必要があることを明確に警告するものであり、すべての市民が警戒を怠らず、公式情報源からの未検証のコンテンツを軽率に共有したりコメントしたりしないよう呼びかけています。

最近の別の事例では、南部の車両検査センターにおける不正行為への対応をめぐり、敵対勢力が、地方警察幹部が腐敗した役人を擁護する発言をした偽の動画を拡散した。この動画は「強力な勢力に支援された」というタイトルでTelegramやソーシャルメディアで拡散されたが、実際にはAIによって作成されたものであり、記者会見や公式文書には記載されていなかった。

ネット上では、悪意のある者がAI技術を駆使して詐欺や恐喝を目的とした偽動画を作成するという危険な傾向が静かに広がっています。最近では、弁護士、医師、ビジネスマンなど社会的に尊敬されている人物の顔が「オンライン詐欺で失われた金銭の回収」を謳う動画に重ね合わされ、多くの人が被害に遭っています。

これらの動画では、AIが弁護士の声と顔を模倣し、視聴者を詐欺師の言うことを信じ込ませ、簡単に個人情報を提供させたり、送金させたりしています。さらに危険なのは、ディープフェイク技術を使って被害者の顔を性的な動画に重ね合わせ、配偶者や同僚に送信して「口止め」と引き換えに金銭を送金するよう脅迫したり、強要したりする犯罪者もいます。

2025年3月、衝撃的な事件が発生しました。ハノイ在住の被害者が、自身の出演する偽の性行為動画を受け取った後、数千万ドンの送金を要求されました。一方、ホーチミン市では、別の被害者が、センシティブな動画の拡散を阻止する見返りに20億ドンを脅迫されました。公安省は捜査を開始し、これらのネットワークの背後には、使い捨てSIMカード、電子ウォレット、ソーシャルメディアプラットフォームなどを利用して身元を隠蔽していた、主に中国と東南アジア出身の複数の国際犯罪グループがいることを突き止めました。

これはもはや些細な詐欺ではなく、名誉や社会関係への恐怖を巧みに利用して被害者に圧力をかける「ハイテク心理戦」の一形態です。警戒心を高め、異常な情報や行動を見抜くスキルを身につけなければ、誰もがこうしたハイテク犯罪者の餌食になりかねません。こうした巧妙ななりすましの波に直面する中で、すべての市民は警戒を怠らず、個人情報を無差別に共有することは絶対に避け、違法行為に対して声を上げる準備をし、自らの安全と地域社会の安全を守る必要があります。

ディープフェイクの脅威に対抗するには、コミュニティからの「デジタルシールド」が必要だ。

ベトナム文化スポーツ観光省放送テレビ電子情報局によると、2024年までにベトナムのデジタルプラットフォームは、虚偽または歪曲された情報を含む4,000本以上の動画を削除する必要があった。その大部分は、ディープフェイクやクローンボイスなどのAI技術を用いて作成されたものだった。若者に人気のプラットフォームであるTikTokだけでも、主に警察、政府、社会政策に関連する1,300本以上のディープフェイク動画の削除が求められた。

テクノロジーブームの時代において、人工知能は画期的な可能性を解き放ちつつありますが、同時に前例のない危険ももたらしています。特に、政府機関の評判を傷つける歪曲されたコンテンツを含むディープフェイク製品がその一例です。MICRIメディア研究所の調査によると、ベトナムのソーシャルメディア利用者の62%は、主流メディアや当局からの警告がなければ、真実の情報と偽の情報を見分けることができません。これは悪意のある勢力が、誤情報を拡散し、社会心理を混乱させるために徹底的に利用している「認知のギャップ」です。

警察署にいるトン・ヴァン・T。

犯罪学の専門家である少将、准教授、博士のド・カン・ティン氏によると、AIを用いて指導者を装ったり、虚偽の発言を編集したり、警察の職務を歪曲したりする偽動画を作成することは、新しい手法でありながら非常に危険なものだという。「ディープフェイクは単なる娯楽作品ではなく、現代の情報戦の一形態であり、信頼を損ない、社会不安を引き起こす可能性があり、制御が非常に困難です」と少将は述べた。

現実には、AI操作された動画は決して無害ではありません。違反への対応、犯罪捜査、汚職撲滅といったデリケートなテーマを標的とすることが多く、国民の混乱や法執行機関への不信感を引き起こしています。さらに懸念されるのは、多くの動画がYouTubeやTikTokといった主要プラットフォームで共有され、数十万回再生された後に削除され、悪影響を及ぼしていることです。

デジタルメディア専門家のホアン・ミン氏は警告する。「たった一度の不注意なシェアや「いいね！」で、フェイクニュースの共犯者になってしまう可能性がある。すべてのインターネットユーザーは、デジタル空間での行動が現実の結果をもたらすことを理解する必要がある。」

このような状況において、これまで以上に求められているのは、コミュニティ内部から「デジタルシールド」を構築することです。つまり、オンライン環境に対する警戒心、情報免疫、そして責任感です。テクノロジーは中立的かもしれませんが、人々がそれをどのように使うかによって、AIが発展の原動力となるか、それとも社会の信頼を破壊する力となるかが決まります。イデオロギーの揺るぎない姿勢を維持し、警察官のイメージを守ることは、国家安全保障の基盤を守ることであり、関係当局だけでなく、デジタル時代のすべての国民にとっての責務です。

出典: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html