AIの二重性

今こそ、ユーザー一人ひとりが「デジタルシールド」となり、クリックやシェアのたびに注意深く、用心深く、責任を持つべき時です。

AIによるメリットと微妙な境界線

人工知能は今日ほど生活に密着した存在になったことはありません。数回クリックするだけで、短いコマンドで驚くほどリアルな音声、画像、さらには動画を作成できます。AIは時間の節約、コンテンツ制作コストの削減、そして柔軟なデジタルメディアの時代を切り開きます。

しかし、「リアルにシミュレーションする」能力は諸刃の剣となっている。最近、ソーシャルネットワークではディープフェイク技術で作成された動画が次々と登場している。警察幹部の顔や、デリケートな事件を担当する部隊の映像などが切り貼りされ、歪んだ音声が吹き替えられ、誤解を招き、人々を分断させているのだ。

このような演出された画像がソーシャルネットワーク上に増えてきています。

TikTokで拡散された動画では、勤務中の交通警察官の画像に不快なセリフが添えられ、「罰金を理由に罰金を課す」というハッシュタグが付けられ、警察官が私利私欲のために職権を乱用していると示唆していました。多くのユーザー、特に若者は、画像が非常にリアルで、声と口の形があまりにも似ていたため、本物と偽物の区別が極めて困難になり、このコンテンツを簡単に信じてしまいました。

AI技術の応用能力を「誇示」したかったというだけの理由で、ディエンビエン省の若手YouTuberは行政罰金を科され、公の場で謝罪を強いられるという代償を払わなければならなかった。1月24日午後、ディエンビエン省警察は、サイバーセキュリティ・ハイテク犯罪対策局が、AIを用いて歪曲された内容の偽動画を作成し、交通警察を侮辱したとして、トン・ヴァン・T氏（2001年生まれ、ムオンアン郡在住）に750万ドンの行政罰金を科す決定を下したと発表した。

具体的には、1月7日、T氏はYouTubeアカウント「Tuyền Vlog」に、「ぶらぶらしていたら交通警察に追いかけられた」という衝撃的なタイトルの3分を超える動画を投稿しました。動画では、AI技術を用いて交通警察が人々を追いかけている様子を再現した画像や状況が再現され、当局を侮辱し中傷するエフェクトやコメントが添えられていました。

T氏は警察と協力し、動画の内容全体が「娯楽」とAI技術の活用能力を誇示する目的で偽造されたものであったことを認めました。当局は罰金に加え、T氏に対し上記の虚偽動画を削除し、個人のYouTubeチャンネルで交通警察に公に謝罪するよう求めました。

デジタル技術の爆発的な発展、特に人工知能（AI）の急速な発展の時代において、敵対的・反動的な勢力はためらうことなくこのツールを悪用し、ベトナム人民公安軍のイメージを歪曲・中傷する目的で捏造された画像や物語を作り出しています。最近SNS上で拡散している、警察官の制服を着た妊婦が「ギャング」風の風貌をした二人の男に脅迫されている写真は、この策略を如実に示しています。

AIが生成した写真が最近ソーシャルメディアで話題になった。

一見すると、視聴者はこれを実際のシーンと勘違いしがちです。「かわいそうな少年がギャングに暴行されていた妊娠中の女性警官を救い、思いがけず全国を震撼させる事件が発生…」といったセンセーショナルな見出しも添えられています。しかし、これは実際には映画やエンターテイメント作品の演出されたシーン、あるいはもっとひどいことに、読者の感情を欺き、法執行活動への同情や信憑性への疑念を抱かせるためにAIが作成した画像である可能性があります。

さらに懸念されるのは、こうしたコンテンツの拡散は、昼夜を問わず社会の安全と秩序を守っている人民公安部隊の評判とイメージを損なうだけでなく、巧妙な心理戦の一形態でもあるということです。虚偽のイメージによって当局への信頼が揺らぐ時、敵対勢力が大統一国家を分裂させようとする深遠な目的が徐々に実現されるでしょう。

したがって、国民一人ひとりが警戒心を高め、批判的思考力と偽情報を見分けるスキルを身につけ、虚偽の内容を断固として非難・反駁し、サイバースペースにおける現在の有害情報の波から思想的基盤を守り、社会の安定を維持することに貢献する必要がある。

ホーチミン市では、約1分間の動画がソーシャルメディア上で突然拡散した。動画には、警察官の制服を着た人物がオフィスで違反者から「自白を強要」する様子が映っていた。動画の中で、警察官とみられる人物は、常に怒鳴り散らし、叱責し、時には失礼な言葉も使うなど、厳しい態度で臨んでおり、市民の怒りを買っている。

しかし、この動画が拡散した直後、ホーチミン市警察は迅速に調査を行い、これが高度なディープフェイク動画であることを確認しました。結論によると、動画に映っている顔は警察内部の会議の録画から抽出され、AI技術を用いて悪意のある人物によって作り出されたシーンに合成され、視聴者に実際の行動であると誤解させたとのことです。
特に、付随する音声には脅迫的で侮辱的な声が含まれていますが、これは実際には役人の実際の言葉ではなく、視聴者の感情を欺くためにプログラムされ編集された合成AI音声です。

この事件は、ディープフェイク技術を用いて人民公安部隊の名誉を毀損し、歪曲する典型的な例であり、サイバー空間における反動勢力や反政府勢力によってますます悪用されている手口である。注目すべきは、このような偽造品は速やかに摘発されなければ、深刻な結果をもたらす可能性があることだ。人々の法執行機関への信頼を揺るがし、地域社会における抵抗を煽り、虚偽の主張が蔓延する状況を作り出す可能性がある。これは、フェイクニュースを反駁、検知し、対抗するメディアの能力向上が喫緊の課題であることを強く警告するものであり、同時に国民一人ひとりが警戒を怠らず、公式情報源からの未検証のコンテンツを安易に共有したりコメントしたりしないよう呼びかけている。

最近の別の事例では、南部の車両検査センターにおける違反処理に関連して、地方警察幹部が違反行為を行った警察官を擁護する発言をした偽の動画が、敵対的な人物によって拡散されました。この動画は「強力な勢力に支援された」というタイトルでTelegramなどのSNSで拡散されましたが、実際にはAIによって作成されたものであり、記者会見や公式文書には一切記載されていませんでした。

サイバー空間では、AI技術を悪用して詐欺や脅迫を目的とした偽動画を作成するという危険な傾向が静かに広がっています。最近では、弁護士、医師、ビジネスマンといった著名人の画像が「オンライン詐欺で被害を受けた金銭の回収」を謳う広告動画に加工され、多くの人が被害に遭っています。

これらの動画では、AIを用いて弁護士の声と顔を偽装し、視聴者を騙して個人情報を容易に提供させたり、詐欺師に金銭を送金させたりしています。さらに危険なのは、ディープフェイク技術を用いて被害者の顔を性的な動画に挿入し、それを妻や夫、同僚に送信して脅迫し、「秘密にしておく」ために金銭を送金させようとするケースです。

2025年3月、ハノイで衝撃的な事件が発生しました。被害者は自身の画像が入った偽のセックス動画を受け取った後、数千万ドンの送金を要求されました。一方、ホーチミン市では、別の人物が、センシティブな動画の拡散を阻止する見返りに最大20億ドンを脅迫されました。公安省は介入し、主に中国と東南アジアを拠点とする多くの国際犯罪グループがこれらの背後に潜んでいることを突き止めました。彼らは、ジャンクSIMカード、電子ウォレット、ソーシャルネットワーキングプラットフォームを利用して身元を隠しています。

これはもはや小規模な詐欺ではなく、名誉や社会関係への恐怖を巧みに利用して被害者に圧力をかける「ハイテク心理戦」の一形態です。警戒心を高め、情報を見極めるスキルと異常な行動を身につけなければ、誰もがハイテクを駆使する犯罪者の「餌食」になりかねません。この巧妙化する偽造の波に直面して、すべての市民は警戒を怠らず、個人情報を無差別に共有せず、違法行為を告発するために声を上げる準備をし、自らの安全と地域社会の安全を守る必要があります。

ディープフェイクの脅威に対抗するには、コミュニティからの「デジタルシールド」が必要だ。

ベトナム文化スポーツ観光省ラジオ・テレビ・電子情報局によると、2024年にベトナムのデジタルプラットフォームは、虚偽や歪曲された情報を含む4,000本以上の動画を削除する必要があり、そのほとんどはディープフェイク、ボイスクローンなどのAI技術から作成された製品だった。若者に人気のプラットフォームであるTikTokだけでも、主に警察、政府、社会政策に関連する1,300本以上のディープフェイククリップを削除するよう求められた。

テクノロジーの爆発的な発展の時代において、人工知能（AI）は画期的な可能性を切り開きつつありますが、同時に前例のない危険も伴います。特に、歪曲されたコンテンツを含むディープフェイク製品は、公的機関の評判を毀損します。MICRIメディア研究所の調査によると、ベトナムのソーシャルメディア利用者の62%は、主流メディアや当局からの警告がなければ、本物と偽物を見分けることができません。これは悪意ある勢力が虚偽情報を拡散するために徹底的に利用し、社会心理の混乱を引き起こしている「認知のギャップ」です。

警察署にいるトン・ヴァン・T。

犯罪学の専門家である少将・准教授のド・カン・ティン博士によると、AIを用いて指導者の偽動画を作成したり、虚偽の発言を編集したり、警察の職務行為を歪曲したりすることは、新しい手法でありながら非常に危険な行為だという。「ディープフェイクは単なる娯楽作品ではなく、現代の情報戦の一形態であり、信頼を破壊し、社会不安を引き起こす可能性があり、制御が非常に困難です」と少将は述べた。

実際、AI操作された動画は無害ではなく、違反行為への対応、犯罪捜査、汚職撲滅といったデリケートなテーマに触れることが多く、人々に混乱や法執行機関への疑念を抱かせています。さらに懸念されるのは、多くの動画がYouTubeやTikTokなどの主要プラットフォームで共有され、数十万回再生された後に削除され、悪質なバイラル効果を生み出していることです。

デジタルメディア専門家のホアン・ミン氏は警告する。「たった一度のシェアや「いいね」を注意せずに押すだけで、フェイクニュースの拡散者になってしまう可能性がある。すべてのインターネットユーザーは、デジタル空間における行動が現実に影響を及ぼすことを理解する必要がある。」

このような状況において、これまで以上に求められているのは、コミュニティ自身による「デジタルシールド」の構築です。つまり、警戒心、情報免疫、そしてネットワーク環境への責任です。テクノロジーは中立的かもしれませんが、人々がそれをどのように活用するかによって、AIが発展の原動力となるか、それとも社会の信頼を破壊する力となるかが決まります。イデオロギー戦線を維持し、人民公安軍のイメージを守ることは、国家安全保障の基盤を守ることであり、これは機能部門だけでなく、デジタル時代のすべての国民の責務でもあります。

出典: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html