AIコンテンツの管理が急務

ここ数年で、人工知能（AI）は目覚ましいスピードで発展し、継続的に改善を重ね、多くの分野で強力なサポートツールとなっています。Google DeepMindが最近開発したAIを活用した動画作成技術「Veo3」は、まるで本物のような映像を作成できます。しかし、このツールはユーザーをサポートするユーティリティである一方で、悪意のある人物に詐欺行為に悪用されるリスクという課題も抱えています。

本物と偽物の区別が難しい

テクノロジー業界によると、Veo3は、これまでのどのツールよりもリアルなAI動画作成機能で、世界中で「話題を呼んだ」という。OpenAIのSoraは映像のクオリティは高いものの、音声のクオリティには限界があるが、Veo3は映像、環境音、セリフを完璧に同期させる。足音、風の音、人の声、周囲の効果音など、すべてが滑らかに融合し、まるで本物の動画のような臨場感を実現。ユーザーは本物の動画とAIが作成した動画を見分けるのが難しくなるほどだ。

ベトナムでは、Veo3がTikTok、Facebook、YouTube Shortsなどのソーシャルネットワークで瞬く間に人気を博しました。ハッシュタグ「#veo3」が付いた一連の動画は目まぐるしいスピードで共有され、数百万回の再生と数十万件のインタラクションを獲得しました。AIによって作成された多くの動画は、その信じられないほどのリアリティでオンラインコミュニティを驚かせました。例えば、シンプルなセリフのみの8秒動画は、500万回再生され、30万8000件以上の「いいね！」を獲得しました。高齢女性が卵を焼く様子を撮影した、完全にAIによって作成された別の動画も、260万回以上の再生と10万4000件以上の「いいね！」を獲得しました。

ホーチミン市1区の会社員、トラン・ヴィン・カンさんは、本物と偽物の見分けがつかないほど本物らしさが高かったと話した。「市場で魚屋が客と話している動画を見たのですが、画像がとても鮮明だったので本物だと思いました。手を振る仕草、眉を上げる仕草、顔に当たる太陽の光、すべてがとても自然で、AIで作られたとは信じられませんでした」とカンさんは語った。

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Veo3で作成された映画の画像では、ユーザーは本物と偽物の区別が困難です

ホーチミン市在住のグエン・マイ・アンさんは、Veo3の技術に感銘を受けたと認めつつも、情報セキュリティへの懸念を表明した。「Veo3が作成した動画は非常にリアルなので、不安を感じます。もし悪意のある人物がこの技術を使って、誹謗中傷や名誉毀損、証拠偽造のための動画を作成した場合、非常に深刻な事態を招くでしょう」とアンさんは述べた。

多くのベトナムユーザーは、Veo3へのアクセス方法と使い方に特に興味を持っています。しかし、Veo3はGoogleによって米国市場で正式に導入されたのは、月額249.99米ドルのGoogle AI Ultraサブスクリプションパッケージを通じてのみです。この制限に直面したベトナムのオンラインコミュニティは、Veo3を体験するための「障壁を乗り越える」方法を見つけました。多くの人が、VPNを使用してIPアドレスを米国に変更し、対応地域のGoogleアカウントを登録してVeo3を有効化し、現地ユーザーとして使用するというヒントを共有しています。セキュリティ専門家によると、これは悪意のある人物が不正行為を行うための抜け穴にもなりかねません。

AIに必要な法的枠組み

OneAds Digital Company Limitedの創業者であるLe Hong Duc氏は、AIが生成する動画、画像、音声などの製品は驚異的なリアリティレベルに近づいており、直接制作・商品化できる可能性があると述べた。この急速な発展はコストと時間の面で明らかなメリットをもたらす一方で、虚偽の情報を拡散したり、公共の混乱を引き起こしたりするために悪用される可能性もある。AIモデルがますます複雑化する中で、特に技術の進歩が現行の法律の改正速度をはるかに上回っている状況では、コンテンツの管理は喫緊の課題となっている。

そのため、ドゥック氏は、AIコンテンツを作成・共有する者の責任を明確に定義するAI専門法の制定が急務であると提言した。虚偽や有害なコンテンツの拡散行為は厳しく処罰・対処されなければならない。同時に、当局はユーザーがAIを用いて作成できるコンテンツを制限する基準を制定し、明確なラベル表示を義務付ける必要がある。適切に実施されない場合、ユーザーは法的責任を負い、損害賠償を請求される。ドゥック氏は、「急速に発展するこの技術を制御し、健全なデジタル環境を維持し、詐欺、倫理違反、他者への侮辱行為といった結果を防ぐために、AI専用の法的枠組みを制定することは極めて緊急の課題です」と強調した。

情報セキュリティ専門家は、法的懸念に加え、Veo3の目覚ましい発展はコンテンツクリエイター、特に映画、テレビ、アニメといった分野において、AI技術に徐々に取って代わられるリスクを抱えるクリエイターたちの懸念も引き起こしていると指摘し、クリエイティブ業界におけるキャリアと著作権の保護に大きな課題をもたらしていると指摘した。「AIは今や非常にリアルな作品を制作できるようになったため、AI生成コンテンツに対する知的財産権に関する規制を早急に強化する必要がある。さもなければ、市場に氾濫するバーチャル作品の波によってクリエイターたちは職を失うリスクに直面するだろう」と専門家は述べた。

偽のサービスに注意してください

Veo3が爆発的に普及して以来、ソーシャルメディアプラットフォーム上では「AI専門家」を名乗る多くのアカウントが、デモ動画やVeo3へのアクセス方法の解説を共有したり、アカウントやサポートサービスを20万～30万ドンで販売したりし始めています。中にはアクセスして試用できたというユーザーもいますが、誰もが体験できるわけではありません。Le Hong Duc氏は、偽サービスや非公式サービスには注意するようユーザーに警告し、金銭詐欺、データ盗難、Googleアカウントの乗っ取りを防ぐため、Googleがベトナム市場でVeo3を正式に展開するまで待つことを推奨しました。

出典: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm