インターネットを閲覧するたびに、AI によって作成された馬鹿げた面白いビデオを目にします。

(Dan Tri) - Veo 3 によって作成された「逸脱」コンテンツを含むビデオがソーシャル ネットワーキング サイトに頻繁に表示されています。

ネットサーフィンするたびに、Veo 3のナンセンスなユーモアが目に入る

最近、ソーシャルメディアユーザー、特にTikTokでは、Veo 3ツールで作成された「コメディ」 動画が頻繁に見られるようになりました。その多くは面白いものですが、内容が従来の常識を逸脱し、物議を醸すものも少なくありません。

「TikTokを開くたびに、食べ過ぎて寝過ぎたおばあさんが豚を売るために運んでいるなど、おなじみのモチーフの面白い動画が表示されます」と、フイエン・マイさん（20歳）は語った。

Huyen Maiさんは、自分のTikTokにはVeo 3が作成した「コメディ」動画がたくさんあると語った（写真：スクリーンショット）。

マイさんは、似たような動画がどんどん頻繁に登場してきて、不快感を覚えるようになり、これらの動画は単に「視聴率稼ぎ」の目的のためだけのもので、視聴者に何の価値ももたらしていないのではないかと思うようになったと話した。

マイさんは、ニュースフィードでネガティブな動画や不快な動画によく遭遇すると述べた。「多くのTikTokチャンネルは、視聴回数を増やすためだけに、わいせつで不快な要素や虚偽の情報を盛り込んだ、架空の状況を題材にした動画を現実の話に合わせて作成しています。」

「視聴回数を増やす」目的で、一連の不快かつ衝撃的なコンテンツが作成された（写真：スクリーンショット）。

フイエン・マイさんと同じように、ホアン・アンさん（20歳）も最近、不満を口にした。Veo 3は非常にリアルな画像とコンテンツを提供し、多くの動画が興味深く面白い内容になっていると彼は言う。

しかし、しばらくすると、ポジティブな価値観に焦点を当てるのではなく、「ネガティブ」で「衝撃を与えて視聴率を稼ぐ」傾向の動画が徐々に増えてきたことに気づいた。

「ある学生が立ち上がって罵倒していました。これは最近見たVeo 3が作成した動画の一つです。特に非常に重要な試験期間中に、なぜソーシャルメディアにこのような不快なコンテンツが溢れているのか不思議でした」とホアン・アンさんは打ち明けた。

不適切な言語や内容を含む AI 生成ビデオがソーシャル ネットワーク上に頻繁に表示されます (写真: スクリーンショット)。

さらに心配なのは、一部の動画では、センシティブで非倫理的なセリフを言うために登場人物の画像や子供の声を使用しているにもかかわらず、オンラインコミュニティから何千もの反応を引き起こしていることだ。

さらに、多くの Veo 3 ユーザーは、純粋に娯楽的なコンテンツを装って、逸脱行為を促す状況を作り出します。

典型的には、ギャンブルや賭博などの一部のアプリケーションやウェブサイトは、視聴者に対して露骨にプロモーションビデオを作成し、「娯楽ビデオ」を装って密かに公然と拡散しています。

多くの結果への扉

Veo 3 のようなビデオ生成 AI ツールの開発は、多くの店舗や企業のコンテンツ制作部門に大きな可能性をもたらすと同時に、現実世界での仮想的な結果につながる「扉」を開くものであることは否定できません。

すると、「大人や子供は AI が生成した動画を区別できるのか？」「これらの不快な動画は子供の認識にどのような影響を与えるのか？」といった疑問が生じます。

AI生成コンテンツに挿入されたベトナムテレビのロゴ（写真：スクリーンショット）。

娯楽目的だけでなく、多くの専門家がAIによって作成された「逸脱」コンテンツの潜在的なリスクについて警告しています。これらのコンテンツがソーシャルネットワーク上で目まぐるしいスピードで拡散されると、高齢者や子供たちが受動的に受け取り、容易に悪影響を及ぼしてしまう可能性があります。

ソーシャル メディア プラットフォームは現在、コンテンツ検閲において大きな課題に直面しています。なぜなら、わずか数ステップの簡単な操作で、誰でも逸脱した内容のビデオ シリーズを作成でき、攻撃的、堕落的、または違法な行為を宣伝することさえできるからです。

コンテンツに関するリスクがあるだけでなく、ベトナムでVeo 3にアクセスし使用することは、多くの問題を引き起こしています。Googleは国内市場でこのツールを公式にサポートしておらず、高額な料金（Proアカウントは月額20ドル、Ultraアカウントは月額250ドル）も課せられるため、多くのテクノロジー愛好家はVPNの使用、フローティングアカウントの購入、偽情報の申告といった「障壁を乗り越える」方法を見つけています。

彼らの多くは、安価な Veo 3 アカウントを宣伝し、無制限の機能で自由に使用できるようにしているといった「鶏の群れを誘導する」トリックの被害者になっています。

安価な Veo 3 アカウントの購入を促す投稿がベトナムのソーシャル ネットワークに溢れている (スクリーンショット)。

多くの悪質な人物が、Veo 3 へのアクセスの必要性を悪用して詐欺を働き、購入者にまずお金を送金するよう要求し、その後すぐに跡形もなく「姿を消す」のです。

注目すべきは、顧客のGmailアドレスを使ってVeo 3アカウントを「超優待」価格で登録できるという業者も存在することです。しかし、これは実際にはGoogleのポリシーの抜け穴を悪用する行為であり、アカウントが永久にロックされ、メール、ドキュメント、そして関連するすべての個人データにアクセスできなくなるリスクがあります。

テクノロジーに欠陥はない

実際、AIプラットフォームは否定的なコンテンツを作成したり、虐待的な行動を助長したりするために設計されているわけではありません。すべての結果は、人々がツールをどのように使用するかによって決まります。つまり、ユーザーの認識と責任が決定要因となるのです。

ベトナム国立大学ハノイ校工科大学情報工学部の講師であるグエン・ヴァン・ソン博士は、「人工知能がもたらすプラスの価値を高く評価しています。適切に活用すれば、AIは社会やコミュニティに多くの実用的な貢献を果たすことができます」と述べています。

しかし、彼によると、テクノロジーが不健全な動機を持つ人々の手に渡ったときに問題が生じるという。「そうなると、AIはネガティブな行動を助長する効果的なツールとなり、社会への悪影響を増幅させることさえある」とソン博士は警告した。

そこから彼は、ユーザー、特に若者に対し、AI にアプローチし、それを応用する際には、低俗で不快な製品を広めるのではなく、質の高い文明的なコンテンツを作成することを目指し、積極的に意識と責任を高めるよう呼びかけました。

グエン・ヴァン・ソン博士は、AI の使用時に倫理違反を制限する鍵は教育だと考えています (写真: 人物提供)。

さらに、グエン・ヴァン・ソン博士は、AIの利用における倫理違反を抑制するための長期的な戦略の一つは、教育的観点からのアプローチであると考えています。意識を高め、ユーザーが個人の責任を理解し、テクノロジーを利用する際の倫理的基盤を構築することが、文明的なデジタルコミュニティの形成に貢献する重要な要素であるとソン博士は述べています。

多くの専門家は、「スパム」コンテンツに関する警告にとどまらず、AI生成ツール、特に大規模な偽情報の拡散源となり得る動画作成機能の潜在的な危険性について繰り返し問題提起している。

「テクノロジー業界は長年にわたりディープフェイクの危険性に対処してきました。しかし、ますます高度なAI動画ツールの出現は、AI、ひいてはAGIによって生成されるコンテンツの規制がますます困難になるという明確な警告です」と、ConjectureのCEOであるコナー・リーヒ氏は警告した。

同じ見解を共有するPisa Solutions LLCのCEO、Nguyen Thi Trang氏も、ますます優れたAIの文脈における批判的思考の重要性を強調しました。

「私たちはAIのユーザーであるだけでなく、AIが生成する幅広いコンテンツの受信者でもあります。ツールを倫理的に使用するだけでなく、一人ひとりが情報を多角的に捉える能力を身につける必要があります。なぜなら、AIによって作成された動画の中には、本物らしく見えながら、実は虚偽のコンテンツを宣伝しているものが数多く存在するからです」とトラン氏は語りました。

出典: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm