AIに関連するリスクを評価するメカニズムの必要性

AI生成製品のラベル付け

Quang canh.jpg — 11月27日午後の国会の様子。写真：クアン・フック

ホーチミン市選出のグエン・タム・フン議員は、現代社会におけるAIのリスク管理メカニズムの重要性を強調し、サプライヤーに対しAIコンテンツに機械可読なマーキングを義務付ける法案は非常に必要だとの見解を示した。しかしながら、コンテンツが混乱を招く恐れがある場合、特に子供や高齢者といった一般ユーザーを誤情報やディープフェイクのリスクから守るため、インタラクティブインターフェース上に識別情報を表示することを義務付ける要件を追加することを検討すべきだと提案した。この規制は、技術提供者の社会的責任を強化し、人々のデジタルトラストを構築するものである。

併せて、グエン・タム・フン副首相は、研究を通じて、現在の多目的AIモデルはテキストや画像を作成するだけでなく、ソースコード、攻撃ツール、実行指示、サイバー攻撃プロセス、金融詐欺の手法なども生成できることがわかったと述べた。そこから、副首相は、ソースコードの生成を許可する際には、モデルの「自己生成能力」を制御する義務を追加することを提案し、ネットワークのセキュリティと社会秩序と安全を確保するために、警告、ブロック、出力制限のメカニズムを備えることが必要だと述べた。

Tam Hung.jpg — グエン・タム・フン代表（ホーチミン市）。写真: クアンフック

また、AIによって生じるリスクについて、ファム・ヴァン・ホア議員（ドン・タップ選出）は、AI技術は人間を支援するツールであるものの、多くの大きなリスクをもたらすと述べ、起草委員会にこの問題について客観的かつ正確な評価を行うよう要請した。

「これらのリスクは、人命、財産、権利、そして組織や個人の正当な利益に影響を与える可能性があります」とファム・ヴァン・ホア副大臣は述べ、AIによって作成された製品にはラベルを貼るべきだと主張した。同副大臣によると、AIラベルの貼付は、どの製品がAIによって作成されたもので、どの製品がそうでないかが人々にわかるようにするためだという。

一方、チン・ティ・トゥ・アン副首相（ラムドン省）は、法案第11条は技術的影響に基づくリスク評価の考え方を十分に反映していないと述べた。同氏によると、現状ではAIはこれまで特定されていなかった有害な手法を生み出す可能性がある。そのため、チン・ティ・トゥ・アン副首相は、「政府は、リスク評価、技術動向、実務上の管理要件に基づき、許容できないリスクを有する人工知能システムのリストを詳細に規定し、定期的に更新・補足するものとする」という条項の追加を提案した。同氏によると、このメカニズムにより、法律が時代遅れになることを防ぎ、新たなリスクに迅速に対応できるようになるという。

AIの悪用を避ける

チャン・カン・トゥー副議員（フンイエン選挙区）は、AIによる医療診察・治療支援の問題について言及し、AIは医療業界のプロセスを最適化し、医師や医療従事者の負担を軽減するだけでなく、治療の個別化にも重要な役割を果たし、医療成果の向上と資源利用の効率化にも貢献すると述べた。しかしながら、健康兆候の検出にAIを活用することは、逆効果となる場合もある。

Tu Anh.jpg — 代表チャン・カーン・トゥ（フン・イェン）。写真: クアンフック

女性代表は、ホーチミン市に住む55歳の患者の実例を挙げた。この患者は病院に搬送された時点では無気力状態だった。患者家族はAIを用いて診断を行い、患者のために薬を買いに行った。薬を使用した後、患者の容態は悪化し、病院に搬送された際には脳損傷、脳卒中、そして避けられない後遺症と診断された。

「もちろん、検索結果を診断や薬の処方に利用すべきではありません。しかし、AIの処方箋に基づいて薬を販売する人は法律違反になるのでしょうか？」と、トラン・カン・トゥー議員は疑問を呈し、この人工知能法案には、医療分野における人工知能製品の管理、特に関係者の責任に関する、より具体的な法的枠組み規定が含まれることを期待していると述べた。

法案草案における事後監査から事前監査への移行に関して、トラン・カン・トゥー議員は、例えば、モデルのアルゴリズムが変更された場合、ユーザー数が増加した場合、またはトレーニングデータが特定の閾値を超えた場合など、明確な定量的な閾値が必要であると提案した。

Trọng Nghĩa.jpg — ファム・チョン・ギア代表（ラン・ソン）。写真: クアンフック

「AIの濫用」についてさらに考察すると、ランソン選出のファム・チョン・ギア下院議員は、私たちの生活においてAIに過度に依存すると、思考力と創造性が低下すると述べた。AIの濫用は、国家主権の侵害、行政の効率性の低下、そして個人や家族、特に若い世代への悪影響など、多くの潜在的な不安定性をもたらす可能性がある。

「公共部門にとって、AIの悪用は政策や法律の実現可能性、人間性、そして有効性を低下させます。AIに機密情報やデータを提供する場合、厳格に管理されなければ、データ漏洩につながり、国家安全保障や社会秩序・安全を損ない、予測不可能な結果をもたらす可能性があります」と、ファム・チョン・ギア副大臣は述べ、公共部門におけるAIの悪用禁止を含む禁止行為を規定する条項を法案に追加することを提案した。

ド・チュン

出典: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html