AIを使って障害者を装い利益を得る新たな詐欺に注意

彼らは、人工知能（AI）技術を駆使して普通の人々の顔や体を編集し、障害者のように仕立て上げ、悲しい物語をでっち上げて商品を売ったり支援を呼びかけたりする悪党です。彼らの唯一の目的は、コミュニティの思いやりを利用して違法な利益を得ることです。

火道.jpg — TikTokの「NL」チャンネルに、AI技術で障害者のように加工された女性の画像が投稿された。

洗練されたトリック

社会の激しい怒りを買った典型的な事例は、TikTokチャンネル「NL」が投稿した一連の動画でした。両腕を切断された女性が、幼い子供たちを支えるためにオンラインで商品を販売しようとする様子が映し出されていました。動画の中で、女性は質素な部屋に簡素な服を着て登場し、切断された腕を使って商品を紹介し、視聴者の感情を揺さぶり、共感を呼びました。多くの人がためらうことなくクリックしてフォローし、広くシェアし、母親の困難を乗り越える手助けをしようと商品を注文しました。しかし、動画が拡散されると、オンラインコミュニティは、これが実際には普通の販売員の画像をAI技術で加工し、本物の障害者のように見せかけたものであることに気付きました。

同情心に訴えるという策略は、多くの人々が弱者や恵まれない人を助けていると信じ、送金や注文をしてしまう罠となっている。ハノイ、ボーデワード、ゴックラム通りに住むダン・ミン・クアンさんはこう語った。「母は、片腕を切断した女性が商品を販売している動画を信じてしまい、同情してその人が販売している商品をいくつか注文しました。しかし、その障害者はAIが作り出した画像だったと知り、母は非常に悲しみ、憤慨しました。」

クアンさんの母親の話は珍しいことではありません。他にも何百人もの人が同じように騙されています。親切心が利用されると、人々は徐々に信頼を失い、心からの助けを求める声に躊躇するようになります。そして、その痛ましい結果として、弱い立場の人々が本当に深刻な傷を負うことになります。グエン・シン氏は自身のFacebookで、フート省在住の36歳、トラン・ティ・ンガーさんの事例を共有しました。彼女は「Nga Tic Cuc」というチャンネルの所有者で、2024年末に急性心筋炎のため、命を救うために両腕と両足を切断せざるを得ませんでした。彼女は、前向きな生きる意志で常に多くの人々に感動を与えていることで知られています。しかし、AIを使って障害者になりすます事件が相次いだ後、ンガーさんもAIを使って障害者になりすましているのではないかと疑われました。

最近のライブ配信では、ソーシャルメディアユーザーから「手を挙げろ」「這え」と繰り返し求められ、ンガさんは何度も動揺しました。こうした理不尽で残酷な要求は、彼女を深く傷つけました。「アクティブ・ンガ」の物語は、テクノロジーの濫用がどれほど有害であるかを痛切に物語っています。

AIが生成した偽コンテンツ認識スキル

公安省によると、2024年にはベトナムで6,000件以上のオンライン詐欺が発生し、推定約12兆VNDの損失が発生しました。2025年にはわずか8か月間で1,500件近くのオンライン詐欺が発覚しました。この数字は、7,800万人以上のインターネットユーザーと7,200万人以上のソーシャルネットワークユーザーを抱えるベトナムにおいて、ハイテク犯罪の危険なレベルを如実に示しています。サイバー空間はますます巧妙化する詐欺の温床となりつつあり、AIを用いた偽コンテンツの作成が今日の最大の脅威となっています。

この憂慮すべき現実に直面し、当局とサイバーセキュリティの専門家は、人々が偽コンテンツを見分けるための知識とスキルを身につける必要があると勧告しています。ハノイ市ロンビエン区警察青年連合のグエン・ナット・ハ副長官は、人々は公式の情報源を定期的に監視し、テクノロジーや新たな詐欺に関する知識を積極的に更新する必要があると指摘しました。特に、情報源を慎重に検証し、未確認の情報源に個人情報を提供しないこと、不審なリンクにアクセスしないこと、未確認の口座に送金しないことといった基本原則を常に念頭に置いておくことが重要です。

サイバーセキュリティの専門家によると、AI生成動画を見分けるには、画像の詳細、顔の動き、手足、音声などを注意深く観察する必要があるとのことです。虚ろな目、不自然な動き、発話の遅れ、唇の動きの不一致といった兆候は、ディープフェイク技術の兆候であることが多いようです。

さらに、チャンネルの投稿情報を確認したり、コメントを読んだり、活動履歴を確認したりすることも、信頼性を評価する簡単な方法です。それに加えて、ユーザーは信じる前に検証する習慣を身につける必要があります。どんなに感情的な動画であっても、性急にシェアしたり支持したりすべきではありません。

専門家らはまた、ソーシャルメディアプラットフォームに対し、検閲を強化し、AIを用いて障害者を装うコンテンツを特定し、違反アカウントを厳正に処分するよう求めた。当局は、AI画像やコンテンツの利用に関する明確な規制を早急に制定し、テクノロジーが悪質な行為者による非倫理的行為の道具とならないようにする必要がある。

出典: https://hanoimoi.vn/dung-ai-gia-nguoi-khuet-tat-de-truc-loi-canh-giac-chieu-lua-moi-722565.html