障害者を装って商品を販売するAIの疑いのある動画が怒りを呼ぶ

AIを使って販売者になりすますアカウント。写真： TikTok

近年、高度なAIツールが次々と登場し、写真や動画の作成は数個のコマンドで非常に簡単になりました。しかし、インターネットユーザーの本物と偽物を見分ける能力は、この進歩に追いついておらず、一部の主体によって利益のために悪用されています。

最近、あるTikTokアカウントがソーシャルメディアで拡散しており、両腕を切断され、幼い子供たちを支えるために商品を売らざるを得ない女性を描いた一連の動画を投稿しています。動画の中で、この女性はシンプルな服を着て、ペーパータオルや洗剤などの商品を親切な言葉で紹介しています。

記録によると、女性は夫が事故で早くに亡くなり、幼い子供を一人で育てなければならないという状況を動画で共有していたが、その内容は一貫していなかった。このアカウントは数百万回以上の視聴とインタラクションを獲得し、チャンネル開設から3日間でフォロワーが10万人増加した。多くの人が同情を示し、支援を呼びかけ、支援のための商品を注文する人もいた。

ユーザーは、似たようなコンテンツを持つアカウントを次々と発見しています。これらのチャンネルに共通するのは、新しく作成された個人ページであること、実際の交流履歴がないこと、そして過度に感情的なコンテンツを共有していることです。

これらのチャネルは新しいことが多く、明確なプロファイルがありません。

しかし、しばらくすると、ネットユーザーはそれぞれの動画に何か不自然な点や矛盾点があることに気づいた。例えば、女性の切断された腕が非常に滑らかに見えたり、家の壁の塗装が違っていたり、赤ちゃんが異常に動かなかったりした。これは、これらの動画がすべてAIによって他人を騙すために作成されたものだったからだ。

注目すべきは、警告や暴露のコメントがアカウント所有者によって非表示または削除されたことです。多くの人が騙されたことに憤慨するとともに、人々の同情を利用して利益を得ようとする行為に憤慨しました。

さらに、これらの偽動画は、同じプラットフォームで生計を立てている所有者や他の障害者にも影響を与えています。フート県在住のNga Tich Cucチャンネルの所有者であるトラン・ティ・ンガーさん（36歳）は、実際に片腕を切断されたことを訴え続けなければなりませんでした。

2024年末、彼女は急性ウイルス性心筋炎を発症し、四肢切断を余儀なくされましたが、家族の愛に支えられながら人生をやり直しました。最近のライブ配信では、疑惑や厳しい言葉を浴びせられたことへの悲しみを語りました。

これらの新しく作成されたチャンネルも急速に多くのフォロワーを獲得し、差別化が難しくなりました。同様のコンテンツを持つNLSという別のアカウントは、たった1本の動画でフォロワーを5万人近く増加させました。

ユーザーは騙されたことに憤りと信頼の喪失を表明した。

したがって、オンラインコミュニティが徐々に自分たちの目に映るものへの信頼を失い、真に助けを必要としている人々への配慮を失っていることを責めることはできません。あるコメントでは、AI技術を利用してコミュニティの感情を搾取する者は非難されるべきだと述べています。

サイバー詐欺の手口はますます巧妙化しており、人との接触が少ない人や高齢者を狙っています。多くのアカウント保有者は、入院や障害といったトラウマを抱えた人々の画像を利用し、ショッピングカートを添付したり、サポートへの問い合わせ用のアカウント番号を残したりしています。

CNBCは以前、ダウン症の人になりすますAIを使ったInstagram、YouTube、TikTokのアカウントを30件以上発見しました。これらのアカウントは、フォロワーを増やし、コミュニティへの募金活動を促すために、胸が張り裂けるような体験談を拡散していましたが、実際にはアカウントを私物化していたのです。

この事件は、AIのリアルなコンテンツを再現する能力が悪意のある人物に悪用される可能性を警告しています。テクノロジーは急速に発展しているため、ユーザーはそれを普及させるとともに、大切な人がオンライン詐欺の被害者にならないよう支援する必要があります。

出典: https://znews.vn/video-nghi-ai-gia-nguoi-khuet-tat-ban-hang-gay-buc-xuc-post1598306.html