YouTubeチャンネル「Golpadak」に投稿されたこの動画は、黄色いレインコートを着た男性が景福宮の前に立ち、「雨がひどく降っています…景福宮は完全に冠水しています」と叫ぶシーンで始まります。続いて、人々がバケツで水をすくう様子や…アザラシが宮殿の敷地を滑っていく様子などが映し出されます。細かい部分は多少荒唐無稽ですが、ソウルで記録的な豪雨が発生した時期と重なるため、多くの人がこの動画が本物だと信じています。
AIが作成した景福宮の洪水シーン。（動画から切り取った写真、出典：YouTube）
この動画は、Googleの最新のAI動画作成ツール「Veo 3」によって作成されたことが確認されました。鮮明な画像とリアルなセリフを再現できます。多くの人がこの動画に憤慨し、故意に虚偽の情報を拡散した作成者は処罰されるべきだと主張しました。
同様の偽の洪水動画がYouTubeに数十本も投稿されており、メディアや専門家から強い反発が寄せられている。彼らは、たとえ詳細が不合理であっても、人々はAI生成コンテンツに騙されていると警告している。
注目すべきは、ソウル中心部を溶岩が流れ落ちる様子を模した偽動画が視聴者の混乱を招いたことです。動画の制作者であるYouTuber「Ddalgak」氏は、インターネットユーザーがオンラインコンテンツを容易に扱う様子を風刺するのが目的だったと述べています。また、イーロン・マスク氏のディープフェイク詐欺に触発され、Veo 3を使用して動画を作成したことも認めています。
AIは韓国の生活に遍在している。（出典：Shutterstock）
ディープフェイクの蔓延を受け、韓国は「AI基本法」を制定し、2026年1月に施行される。この法律では、視聴者が容易に識別できるよう、すべてのAI動画に透かしを入れることが義務付けられている。しかし、専門家は透かしは簡単に削除・編集できるため、この措置は抑止力としての効果が低いと懸念している。
高麗大学AI研究所の専門家チェ・ビョンホ氏は「 AI企業による偽コンテンツの識別を支援する技術の開発は社会的コストの削減につながり、行政による対策よりも効果的だろう」とコメントした。
ディープフェイクは、娯楽の域を超えて、不快で合意のないコンテンツの作成から金融詐欺、 政治的操作に至るまで、様々な違法行為のツールになりつつあります。昨年の国会選挙では、国選管理局が120件以上の偽のAI画像と動画を検出し、対処しました。この結果、選挙コンテンツにAIを使用する場合、明確な情報開示義務が課せられました。
出典: https://vtcnews.vn/video-ai-gia-canh-lu-lut-tai-cung-dien-gay-lo-ngai-ve-deepfake-o-han-quoc-ar956031.html
コメント (0)