AI コンテンツの制御が緊急に必要です。

ここ数年で、人工知能（AI）は目覚ましいスピードで発展し、継続的に改善され、多くの分野を支える強力なツールとなっています。Google DeepMindが最近開発したAI搭載動画作成技術「Veo3」は、驚くほどリアルな映像を制作できます。しかし、ユーザーにとってのメリットがある一方で、悪意のある人物によって不正行為に悪用されるリスクという課題も抱えています。

本物と偽物を見分けるのは難しいです。

技術専門家によると、Veo3はAI動画作成機能によって世界的に大きな注目を集め、従来のツールをはるかに凌駕するリアリティを誇ります。OpenAIのSoraは映像表現には優れているものの、音声表現には限界がありましたが、Veo3は映像、環境音、セリフをシームレスに同期させます。足音や風切り音、話し言葉や周囲の効果音まで、すべてがシームレスに溶け合い、まるで本物の動画かAIが作成した動画かを見分けがつかないほどリアルな映像を実現します。

ベトナムでは、Veo3はTikTok、Facebook、YouTube Shortsなどのソーシャルメディアプラットフォームで瞬く間に話題となりました。#veo3のタグが付けられた多数の動画が瞬く間にシェアされ、数百万回の再生と数十万件のインタラクションを獲得しました。AIが生成した多くの動画は、その信じられないほどのリアリティでオンラインコミュニティを驚かせました。例えば、シンプルなセリフを交えた8秒の動画は、500万回再生され、30万8000件以上の「いいね！」を獲得しました。また、高齢の女性が卵を焼く様子を映した、完全にAIによって生成された別の動画も、260万回以上の再生と10万4000件以上の「いいね！」を獲得しました。

ホーチミン市1区の会社員、トラン・ヴィン・カンさんは、動画のリアルさがあまりにも強すぎて、本物と偽物の区別がつかないと話した。「市場で魚屋の人が客と話している動画を見たのですが、映像が鮮明だったので本物だと思いました。手を振る仕草、眉を上げる仕草、顔に当たる太陽の光など、すべてが自然で、AIが作ったとは信じられませんでした」とカンさんは語った。

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Veo3 によって作成されたビデオ内の画像は、ユーザーが本物と偽物を見分けるのが困難です。

ホーチミン市在住のグエン・マイ・アンさんは、Veo3への称賛を表明する一方で、情報セキュリティへの懸念を表明した。「Veo3が作成した動画は非常にリアルなので、不安を感じます。もし悪意のある者がこの技術を利用して、中傷動画や誹謗中傷、証拠の捏造を行った場合、非常に深刻な結果を招くでしょう」とアンさんは述べた。

多くのベトナムユーザーは、Veo3へのアクセス方法と使用方法に特に関心を持っています。しかし、Veo3はGoogleが米国市場で正式にリリースしたのは、月額249.99ドルのGoogle AI Ultraサブスクリプションパッケージを通じてのみです。この制限に直面し、ベトナムのオンラインコミュニティは、制限を回避する方法を模索してきました。多くの人が、VPNを使用してIPアドレスを米国に変更し、対応地域のGoogleアカウントを登録してVeo3をローカルユーザーとしてアクティベート・使用するというヒントを共有しています。セキュリティ専門家によると、これは悪意のある攻撃者が悪意のある目的で悪用する可能性のある脆弱性でもあります。

AIには法的枠組みが必要です。

OneAds Digital Co., Ltd.の創業者であるLe Hong Duc氏は、AIが生成する動画、画像、音声などの製品は驚異的なリアリティレベルに近づいており、直接制作・商品化できる可能性があると述べました。この急成長はコストと時間の面で明確なメリットをもたらしますが、誤情報の拡散や社会パニックの誘発に悪用される可能性もあります。AIモデルがますます複雑化する中で、特に技術の進歩が現在の法改正のペースをはるかに上回っているため、コンテンツの管理は極めて重要になります。

そのため、ドゥック氏は、AIコンテンツを作成・共有する者の責任を明確に定義するAI専門法の早急な制定を提唱しました。誤解を招く、有害、または有害なコンテンツの拡散行為は厳重に処罰されるべきです。同時に、当局はユーザーがAIを用いて作成できるコンテンツを制限する基準を制定し、明確なラベル表示を義務付ける必要があります。遵守しない場合、法的責任と損害賠償が科せられます。ドゥック氏は、「急速に発展するこの技術を制御し、健全なデジタル環境を維持し、詐欺、倫理違反、不快な行為といった悪影響を防ぐために、AI専用の法的枠組みを制定することは極めて緊急の課題です」と強調しました。

情報セキュリティ専門家は、法的懸念に加え、Veo3の急速な発展はコンテンツクリエイター、特に映画、テレビ、アニメといった分野において、AI技術に徐々に置き換えられるリスクを抱えるクリエイターたちの懸念を引き起こしており、クリエイティブ業界における職業と著作権の保護に大きな課題をもたらしていると指摘した。「AIは今や非常にリアルな作品を制作できるようになったため、AI生成コンテンツに対する知的財産権に関する規制を早急に追加する必要がある。さもなければ、クリエイターたちは市場に溢れかえるバーチャル作品の波の中で職を失うリスクに直面するだろう」と専門家は述べた。

詐欺的なサービスに注意してください。

Veo3のリリース以来、ソーシャルメディアプラットフォーム上で「AIエキスパート」を名乗る多くのアカウントが、デモ動画やVeo3へのアクセス方法に関するチュートリアルを共有したり、アカウントやサポートサービスを20万～30万VNDで販売したりしています。一部のユーザーはアクセスして試用できたと報告していますが、全員が体験できたわけではありません。Le Hong Duc氏は、詐欺や非公式のサービスには注意するようユーザーに警告し、金銭詐欺、データ盗難、Googleアカウントへの不正アクセスを避けるため、Googleがベトナム市場でVeo3を正式にリリースするまで待つことを推奨しました。

出典: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm