AIが作成した偽の洪水動画がFacebookやTikTokを「回避」できる理由

中部地域で長引く洪水の間、ソーシャルメディア上ではAIが生成した偽コンテンツが多数拡散しました。これらの動画の内容は、主に浸水した人々、家屋の流失、緊急救助活動などに焦点を当てており、状況を歪曲したり、当局を攻撃したりするものもありました。

これらのフェイク動画は、水の海の真ん中にある屋根の上で犬を抱きしめる少年のシーンや、洪水に苦しむ人々の姿など、同情に訴え、強い感情を引き起こすため、数十万から数百万回の視聴やシェアを集めています。多くのアカウントは、交流を「引き付け」、商品を販売したり、世論を煽ったりするために同情を利用しています。

出所不明の画像を共有するユーザーは、偽のニュースが急速に拡散し、実際の状況に関する重大な誤解を引き起こします。

注目すべきは、これは AI 製品であるにもかかわらず、ソーシャルネットワークに投稿されたときに、プラットフォームによって AI というラベルが付けられないことです。

Vì sao video bão lũ tạo bởi AI có thể — AI生成動画がソーシャルメディアに投稿されているが、AI生成とラベル付けされていない

ハラヴァンテクノロジー株式会社の顧客ソリューション担当ディレクターのレ・アン・バン氏は、多くの動画がAIによって作成または介入されているにもかかわらず、TikTokやFacebookのプラットフォームで「AI生成」ラベルが表示されないのは、プラットフォームがコンテンツを識別および分類する方法の変化に起因している可能性があると述べた。

パン氏によると、動画が完全にAIによって作成された場合、検出されラベル付けされる可能性は依然として高いとのことだ。しかし、実際の画像や動画を使用し、カットや編集、動きの作成などAIに頼るなど、人間が関与するコンテンツの場合、「AI生成コンテンツ」と「AI支援コンテンツ」の境界をシステムが判断することは困難だという。

この曖昧さが原因で、AI 要素を含む多くのビデオが警告なしに通常のクリップとして表示されてしまいます。

バン氏によると、AI技術は現在非常に速いペースで発展しているが、プラットフォームはアルゴリズムを更新し、新しい認識基準を構築するのに時間が必要である。

今日のデジタル環境におけるコンテンツのほとんどに AI が関与していますが、法的な枠組みはまだ整備中であり、完全な制御は非常に困難です。

したがって、各ソーシャルネットワークユーザーは、情報の受信と共有にさらに注意する必要があります。未確認のクリックによって、意図せずフェイクニュースが拡散してしまう可能性があるからです。

米国の調査会社ホスティングアドバイスの調査によると、 18～43歳のアメリカ人の58％がAI生成コンテンツに騙された経験があり、フェイクニュースの危険性の高まりとプラットフォーム上の情報に対する信頼の低下が浮き彫りになった。

出典: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm