今こそ、すべてのユーザーが「デジタルシールド」となり、クリックや共有のたびに警戒心を持ち、注意深く、責任ある行動をとるべき時です。
AIの利点と微妙な境界線
人工知能がこれほど日常生活に身近になった時代はかつてありませんでした。ほんの数回のクリックと簡単なコマンドだけで、驚くほどリアルな音声、画像、さらには動画まで作成できます。AIは時間を節約し、コンテンツ制作コストを削減し、柔軟なデジタルメディアの時代を切り開きます。
しかし、「現実をリアルに再現する」というこの能力は、諸刃の剣となってしまった。最近では、ディープフェイク技術を用いて作成された動画がソーシャルメディアに溢れかえっており、警察幹部の顔や、デリケートな事件に関わる法執行官の映像が、音声合成によって操作・歪曲され、世論を惑わせ、分断を煽っている。
こうした演出された画像は、ソーシャルメディア上でますます一般的になっている。
TikTokで拡散された動画では、勤務中の交通警察官の映像に不適切なセリフが添えられ、「罰金は見せかけだけ」というハッシュタグが付けられていた。これは、警察官が私利私欲のために権力を乱用したことを示唆するものだった。映像が非常にリアルで、声も口の動きとよく合致していたため、本物と偽物の区別がつかず、多くのユーザー、特に若者はこのコンテンツを容易に信じてしまった。
ディエンビエン省の若いユーチューバーが、単に自身のAI技術スキルを「見せびらかしたい」という理由で、行政罰金と強制的な公開謝罪という代償を払うことになった。1月24日午後、ディエンビエン省警察は、サイバーセキュリティおよびハイテク犯罪防止部が、交通警察官に関する歪曲された侮辱的な内容を含む捏造動画をAIを使って作成したとして、トン・ヴァン・T氏（2001年生まれ、ムオンアン地区在住）に750万ベトナムドンの行政罰金を科したと発表した。
具体的には、1月7日、T.は自身のYouTubeアカウント「Tuyen Vlog」に「外出中に交通警察に追いかけられた」という衝撃的なタイトルの3分を超える動画をアップロードした。この動画では、AI技術を用いて交通警察が市民を追いかける様子を再現した映像や状況が演出され、警察に対する侮辱的で中傷的な効果音や解説が加えられていた。
T.は警察の捜査に協力し、動画の内容全体が「娯楽」目的で、またAI技術の活用能力を示すために捏造されたものであることを認めた。罰金に加え、当局はT.に対し、偽動画を削除し、自身のYouTubeチャンネルで交通警察に謝罪するよう命じた。
デジタル革命の時代、特に人工知能の急速な発展に伴い、敵対的かつ反動的な勢力は、ベトナム人民警察のイメージを歪曲し、傷つけることを目的とした捏造画像や物語を作成するために、このツールを躊躇なく利用してきた。最近ソーシャルメディアで拡散された、警察官の制服を着た妊婦が「ギャング」風の男2人に脅されている写真も、この戦術の明白な証拠である。
AIを用いて作成されたこの画像は、最近ソーシャルメディアで爆発的に拡散している。
一見すると、視聴者はこれを実際の出来事と勘違いするかもしれない。「貧しい少年がギャングに襲われていた妊娠中の女性警察官を救い、知らず知らずのうちに国中を震撼させる事件を解明…」といったセンセーショナルな見出しが添えられている。しかし、これは実際には演出された場面であり、おそらく映画やエンターテイメント作品の一場面、あるいはもっと悪いことに、読者の感情を欺き、同情心を抱かせ、警察の活動の信憑性を疑わせるためにAIによって作成された画像である。
さらに憂慮すべきは、こうしたコンテンツの拡散は、社会の安全と秩序を守るために昼夜を問わず活動する人民警察の評判とイメージを損なうだけでなく、巧妙な心理戦の一形態を構成するということである。欺瞞的なイメージによって国民の当局への信頼が損なわれると、国家の団結を分断しようとする敵対勢力の真の目的が徐々に実現していくことになるだろう。
したがって、すべての市民は警戒心を高め、批判的思考力と偽情報を見抜く能力を養い、虚偽の内容を断固として非難・反駁することで、インターネット上の有害情報の蔓延という現状において、思想基盤の保護と社会の安定維持に貢献する必要がある。
ホーチミン市で、警察官の制服を着た人物が事務所内で交通違反の容疑者を「強要」して自白させようとする様子を映した、約1分間の動画がソーシャルメディアで予期せず拡散した。動画の中で、警察官と思われる人物は攻撃的な態度を示し、絶えず大声で叫び、下品な言葉遣いまでしており、世間の怒りを買っている。
しかし、この動画が拡散した直後、ホーチミン市警察は迅速に捜査を行い、高度なディープフェイクであることを確認した。警察の調査によると、動画に映っている顔は警察内部の会議の録画から抽出され、悪意のある人物がAI技術を用いて操作し、演出された場面に合成することで、視聴者に実際の出来事だと信じ込ませていたという。
特に、付属の音声には脅迫的で侮辱的な声が含まれているが、これらは実際には当局者の実際の言葉ではなく、視聴者の感情を欺くようにプログラムされ編集された合成AI音声である。
今回の事件は、ディープフェイク技術を用いて人民警察を歪曲し中傷する典型的な例であり、サイバー空間における反動的・破壊的勢力によってますます悪用されている戦術である。重要なのは、こうした偽造品が速やかに暴露されなければ、法執行機関に対する国民の信頼を損ない、地域社会の抵抗を煽り、虚偽の言説の拡散を助長するなど、深刻な結果を招く可能性があるということである。これは、偽ニュースを反駁、検出、撲滅するためのコミュニケーション能力の強化が喫緊の課題であることを明確に示す警告であり、すべての市民に対し、警戒を怠らず、公式情報源からの未確認コンテンツを軽率に共有したりコメントしたりしないよう呼びかけるものである。
最近の別の事例では、南部の車両検査センターにおける不正行為の処理をめぐり、敵対勢力が、汚職官僚を擁護する地方警察幹部の偽動画を拡散した。この動画は「強力な勢力に支援されている」というタイトルでテレグラムやソーシャルメディアに拡散されたが、実際にはAIによって作成されたものであり、記者会見や公式文書には一切登場しなかった。
インターネット上では、危険な傾向が静かに広まっている。悪意のある人物がAI技術を利用して、詐欺や恐喝を目的とした偽動画を作成しているのだ。最近では、弁護士、医師、実業家など社会的に尊敬されている人物の画像が、「オンライン詐欺で失ったお金を取り戻す」と謳う動画に合成され、多くの人が被害に遭っている。
これらの動画では、AIを使って弁護士の声や顔を模倣し、視聴者が詐欺師を信じて個人情報を提供したり、送金したりするように仕向けています。さらに危険なことに、一部の加害者はディープフェイク技術を使って被害者の顔を性的な動画に合成し、配偶者や同僚に送りつけて脅迫したり、口止め料として送金を強要したりしています。
2025年3月、ハノイで被害者が、自身が登場する偽の性行為動画を受け取った後、数千万ドンを送金するよう要求されるという衝撃的な事件が発生した。一方、ホーチミン市では、別の人物が、問題の動画の拡散を阻止するために20億ドンを要求する脅迫を受けた。公安省は捜査を開始し、使い捨てSIMカード、電子ウォレット、ソーシャルメディアプラットフォームを利用して身元を隠蔽する、主に中国と東南アジアを拠点とする複数の国際犯罪組織がこれらのネットワークの背後にいることを突き止めた。
これはもはや単なる些細な詐欺ではなく、名誉や人間関係への恐怖心を巧みに利用して被害者に圧力をかける「ハイテク心理戦」の一形態です。警戒心を高め、不審な情報や行動を見抜くスキルを身につけなければ、誰もがこうしたハイテク犯罪者の餌食になりかねません。この巧妙ななりすましの波に直面する今、市民一人ひとりが警戒を怠らず、個人情報を無分別に共有することを絶対に避け、違法行為に対して声を上げる覚悟を持つことが不可欠です。そうすることで、自分自身と地域社会の安全を守ることに貢献できるのです。
ディープフェイクの脅威に対抗するためには、コミュニティによる「デジタルシールド」が必要である。
文化・スポーツ・観光省放送・テレビ・電子情報局によると、2024年にはベトナムのデジタルプラットフォームは、虚偽情報や歪曲情報を含む4,000本以上の動画を削除する必要があった。これらの動画の大部分は、ディープフェイクや音声クローンなどのAI技術を用いて作成されたものだった。若者に人気のプラットフォームであるTikTokだけでも、主に警察、政府、社会政策に関連する1,300本以上のディープフェイク動画の削除を求められた。
技術革新の時代において、人工知能は画期的な可能性を切り開いている一方で、前例のない危険ももたらしている。特に、政府機関の評判を傷つけるような歪んだ内容を含むディープフェイクは深刻な問題だ。MICRIメディア研究所の調査によると、ベトナムのソーシャルメディアユーザーの62%は、主流メディアや当局からの警告がなければ、真偽を見分けることができないという。これは悪意のある勢力が、誤情報を拡散し、社会心理を混乱させるために徹底的に悪用している「認知ギャップ」である。
トン・ヴァン・Tが警察署にいる。
犯罪学の専門家であるドー・カン・ティン少将（准教授、博士）によると、AIを使って指導者になりすました偽動画を作成したり、虚偽の声明を編集したり、警察の職務上の行動を歪曲したりすることは、新しいが特に危険な戦術である。「ディープフェイクは単なる娯楽製品ではなく、信頼を損ない、社会不安を引き起こす可能性があり、制御が非常に難しい現代の情報戦の一形態である」とドー・カン・ティン少将は述べた。
実際には、AIによって操作された動画は決して無害ではありません。違反行為への対処、犯罪捜査、汚職対策といったデリケートな問題を標的にすることが多く、国民の混乱や法執行機関への不信感を引き起こします。さらに憂慮すべきは、多くの動画がYouTubeやTikTokといった主要プラットフォームで共有され、削除されるまでに数十万回の再生回数を獲得し、負の連鎖反応を生み出していることです。
デジタルメディア専門家のホアン・ミン氏は、「たった一度の不用意なシェアや『いいね！』が、偽ニュースの共犯者になる可能性がある。インターネットユーザーは皆、デジタル空間での行動には現実世界にも影響が伴うことを理解する必要がある」と警告している。
こうした状況において、これまで以上に求められているのは、コミュニティ内部から「デジタルシールド」を構築することである。すなわち、警戒心、情報に対する免疫力、そしてオンライン環境に対する責任感である。テクノロジー自体は中立かもしれないが、人々がそれをどのように利用するかによって、AIが発展の原動力となるか、それとも社会の信頼を損なう破壊的な力となるかが決まる。イデオロギー的な信念を堅持し、警察官のイメージを守ることは、国家安全保障の基盤を守ることであり、これは関係当局だけでなく、デジタル時代のすべての市民にとっての責務である。
出典：https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html
コメント (0)