人工知能のダークサイドを制御する

AIが機能するには、AIモデルと呼ばれる「脳」が必要です。これは、膨大なデータで学習された数学モデルとアルゴリズムのシステムです。このモデルによって、機械はルールを学習し、情報を分析し、予測を行い、新しいコンテンツを作成することができます。

Q:人工知能 (AI) モデルとは何ですか? 現在どのようなタイプのモデルが人気がありますか?

回答： AIが機能するには、AIモデルと呼ばれる「脳」が必要です。これは、膨大なデータで学習された数学モデルとアルゴリズムのシステムです。このモデルによって、機械はルールを学習し、情報を分析し、予測を行い、新しいコンテンツを作成することができます。

入力と出力に基づいて、現在のAIモデルはいくつかのグループに分けられます。現在最も人気のあるグループは、ユーザーがテキストを入力するとAIが適切な応答テキストを生成するテキスト変換グループです（ChatGPT、Gemini、Claudeなどのチャットボット）。テキスト変換グループは、入力をテキストで記述し、出力をAIが生成した画像で表現します（Midjourney、DALL·Eなど）。

次は、テキストを音声または効果音に変換するテキストからオーディオ グループです。これは、画像を A​​I の入力として使用して説明や分析を生成します。画像から画像へのグループは、画像を他の画像に変換し、復元、スタイル変換などのタスクによく使用されます。画像からビデオグループでは、AI が静止画像に基づいてシミュレートされたモーション ビデオを作成します。ビデオからテキスト グループでは、ビデオのコンテンツを分析または要約することができ、情報抽出システム、ビデオ注釈、または監視データ分析に適用されます。

現在特に強力なグループの一つは、テキストを動画に変換するテキスト・トゥ・ビデオです。このタイプのモデルでは、ユーザーが簡単な説明を入力するだけで、AIシステムが状況、アクション、照明、さらにはカメラアングルまでも考慮した動画を生成します。

Pika Labs、Sora（OpenAI）といった著名なツールに加え、最近ではベトナムを含む世界のテクノロジーコミュニティが、Google DeepMindが開発したツール「Veo 3」に注目しています。Veo 3で作成された映像は、ほぼ完璧なリアルさを誇り、プロの映像制作者のレベルに迫るものであり、多くの人々を魅了しています。

動画作成は文章を書くのと同じくらい簡単になったため、センセーショナルなもの、下品な言葉遣いのもの、虚偽の情報を含むも​​のなど、注目を集めるためだけに作られた「ジャンク」コンテンツが大量に出現しています。さらに危険なのは、Veo 3のようなツールは、ディープフェイク専用のツールではないものの、実在の人物の洗練された偽画像や音声を作成するために悪用される可能性があることです。これにより、視聴者は簡単に騙され、個人の評判、情報セキュリティ、社会秩序が損なわれ、サイバー空間における詐欺のリスクが高まります（ディープフェイクとは、AIを応用し、ユーザーが見分けがつかないほどリアルに見える偽の画像、動画、音声を作成する技術です）。

さらに懸念されるのは、歪曲された虚偽のコンテンツが目まぐるしいスピードで大量に作成・拡散され、検証や管理もされずにソーシャルネットワーク全体に浸透していることです。最もアクセスしやすく脆弱な対象は、真実と虚偽を見分ける能力に欠けることが多い子供や青少年です。そのため、彼らは有害なコンテンツに非常に敏感であり、認識や行動に長期的な影響を及ぼします。

Q: Veo 3 のようなツールが急速に発展していることを考えると、AI の不適切な目的の使用を効果的に制限するための解決策は何でしょうか?

回答：現在の管理体制と法制度はAI技術の発展速度に遅れており、多くの法的ギャップと予測不可能なリスクを生み出しています。そのため、積極的かつ柔軟で同期的な管理体制を早期に構築し、同時にAIの責任ある利用に関する国民の意識を高める必要があります。

AIの責任ある発展は、AIを創造し、管理し、そして利用する私たち自身に大きく依存しています。イノベーションとマネジメントという概念は、対立する二つの極としてではなく、これまで何度も言及されてきたプロセスの二つの側面として捉えるべきです。したがって、一方では技術開発を促進するためにオープンである必要があり、他方では、新たな状況にふさわしい倫理原則と法的枠組みを積極的に確立する必要があります。

ベトナムでは、制度の改善を継続するだけでなく、開発者とユーザーの両方に行動制限を設けるためのAI倫理行動規範の構築に関するベトナムソフトウェア情報技術サービス協会（VINASA）のAI倫理委員会の提案など、最近多くの解決策が言及されています。

それに加えて、国内外のAI開発者がベトナムの 政治的要因、文化的、法的、歴史的背景に準拠するための基盤を持つことを支援することを目的とした、国家標準のオープンデータ言語セットを形成するという構想もあります。

AI製品の分類とラベル付けを提案することも現実的なアイデアです。AIラベルは必須であり、部分的な編集から完全な制作まで、あるいはゲームや映画で既に行われているようにコンテンツごとに、介入レベルに応じて分類することも考えられます。

それに加えて、明確な事後監査メカニズムを構築し、責任をエンドユーザーに委ねることも重要です。社会的観点からは、全人口、特に子供や青少年を対象としたデジタルリテラシー教育が不可欠です。有害コンテンツを見分ける能力を養い、情報検証ルールを実践することは、バーチャルコンテンツによってますます混乱する社会において根本的な解決策となります。

クアン・フイ

出典: https://nhandan.vn/kiem-soat-mat-trai-cua-tri-tue-nhan-tao-post886971.html