人工知能法プロジェクト：民間部門への倫理的責任の拡大

規制はオープンであるべきだ。

第10回国会会議の続きとして、11月21日午前、国会はグループごとに人工知能に関する法案草案を議論した。

第4グループ（カインホア省、ライチャウ省、ラオカイ省の国会議員代表団を含む）で意見を述べた代表団は、基本的に法律を公布する必要性に同意した。

グループ 4 (ラオカイ、ライチャウ、カインホア) — 11月21日午前、グループ4での議論に参加する代表者たち。写真：ホー・ロン

グエン・フー・トアン国会議員（ライ・チャウ）は、人工知能（AI）法の現時点における公布は非常に必要だと述べた。「この法律を国会に提出するための準備は比較的順調に進んでいます。」

グエン・ティ・ラン・アイン国会議員（ラオカイ）は、現在、人工知能法を制定した国はごくわずかであり、そのため、同法の公布プロセスにおける参考資料も限られていると述べた。しかし、「だからといって、公布すべきではないということではない」と同議員は強調した。

しかし、グエン・ティ・ラン・アン代表は、技術は日々、刻々と進歩しているため、法律の公布にあたっては「オープン性」という要素を考慮する必要があると指摘した。「法律が狭い枠組みの中で公布されれば、革新的な技術分野を慎重に推進することができなくなるだろう。」

人工知能の恩恵を受ける権利を保証するための国家規制を検討する

グエン・フー・トアン代表は具体的なコメントとして、法案草案では適用主体（第2条）を「ベトナム国内で人工知能システムの開発、提供、展開、使用活動を行っている、またはベトナム国内で使用される成果を生み出す人工知能システムを保有するベトナムの機関、組織、個人および外国の組織および個人」と規定していると述べた。

ただし、規制の範囲（第 1 条第 2 項）には、「この法律は、防衛、セキュリティ、インテリジェンス、暗号化の目的のみに開発、提供、展開、使用される人工知能システムには適用されません」と規定されています。

代表者によると、ベトナムには国境外から人工知能製品が供給されているため、この法律を施行することで依然として国家の防衛と安全を確保する必要があるという。

国会議員グエン・フ・トアン（ライ・チャウ） — グエン・フー・トアン国会議員（ライ・チャウ）が演説する。写真：ホー・ロン

したがって、法案草案は、「防衛、安全保障、情報収集及び暗号技術の用途にのみ開発、提供、配備及び使用される人工知能システム」を除外事項とすべきではない。むしろ、防衛、安全保障、情報収集及び暗号技術の用途における人工知能システムの研究、開発、提供、配備及び使用は、国防部又は公安部が指導すべき事項と規定すべきである。

また、第 1 条第 2 項には、「本法は、科学研究、研修、開発施設の内部範囲内でのみ開発、提供、展開、使用され、かつ、第三者に提供または利用されていない人工知能システムまたは人工知能モデルには適用されない」と規定されています。

グエン・フー・トアン代表は、研究施設の範囲内で使用される人工知能システムは同法の対象外であると承認し、同システムが法律に違反する場合には対処しなければならないと指摘した。

実際、非常に小規模な社内システムもあれば、非常に大規模な社内システムもあります。「社内利用は条件と規制を遵守しなければならない」ため、法律にも規制がなければならないと代表者は強調しました。

法案草案では、人工知能に関する8つの国家政策が具体的に規定されている（第5条）。グエン・フー・トアン議員はこれらの政策に基本的に同意しつつも、いくつかの点を明確にする必要があると提案した。

具体的には、第 5 条第 3 項では、「国家は、組織および個人が人工知能にアクセスし、学習し、その利益を享受する権利を保証し、包括的かつ包括的なデジタル社会の発展を促進する」と規定されています。

代表者によると、国家が人工知能へのアクセス権を保障することは適切である。しかし、人工知能の恩恵を享受するためには、ユーザーが自らの資金を投じて生産・事業環境に投資し、活用する必要がある。…国家にはこれを完全に保障する義務はない。したがって、この規則を適宜改正する必要がある。

人工知能システムのリスクレベルについては、法案第 7 条で、許容できないリスク、高リスク、中リスク、低リスクの 4 種類に分類されています。

この分類には同意するものの、グエン・フー・トアン代表によると、実際には対象グループによって適用方法が異なるという。例えば、成人には影響しないが子供には影響する中程度のリスクがある。また、アクセス条件が悪い地域では高リスクとなる場合もある。

そのため、代表団は、各タイプのリスクを明確に定義して各対象に適用し、例えば、子供ではなく大人にのみ提供される低リスクの傘があるなどの警告が必要であると提案しました。

監視およびインシデント警告システムの構築

代表団が非常に関心を寄せている問題の一つは、人工知能インシデントの管理と対応に関するものです。法案草案では、「重大インシデントとは、人工知能活動における技術的インシデントであり、人命、健康、財産、データ、安全、または社会秩序に重大な結果をもたらす、またはもたらす恐れがあるものをいう」と定義されています。

グエン・ティ・ラン・アン代表は、医療分野にはさまざまなレベルがあり、セキュリティにもさまざまなレベルがあると分析した。

グエン・ティ・ラン・アイン国会副議員（ラオカイ） — グエン・ティ・ラン・アイン国会議員（ラオカイ）が演説する。写真：ホー・ロン

「では、今回のインシデントを評価するプロセスはどのようなものですか？誰が、どのメカニズムに通報するのでしょうか？インシデント発生後に発見されると、非常に危険な事態が発生することがあります。特に人命に直接関わる医療分野においてはなおさらです。」

このように問題を提起し、グエン・ティ・ラン・アン代表は、プロセスシステムを設計する必要があると述べました。まず、処理プロセス、誰がそれを処理するのか、そしてどのレベルで警告を発するのかについて議論する必要があります。次に、監視と早期警告システムが必要です。これは非常に重要であり、早期警告を得るためには、入力データを確実に提供する必要があります。

また代表のグエン・ティ・ラン・アン氏によると、責任の問題は明確にする必要がある。それは、モデル開発者の責任なのか、管理機関の責任なのか、それともエンドユーザーの責任なのかということだ。

要約すると、代表者たちは、人工知能インシデントの種類を分類・定義する必要があると指摘しました。インシデントの監視・警告システムを構築し、リスクレベルグループごとに対応プロセスを明確化し、関係者への技術的・法的支援を強化し、補償メカニズムに関する法的責任を明確にする必要があります。これにより、セキュリティとネットワークの安全性の両方が確保されます。

法案第10条第2項は、人工知能システムに重大なインシデントが発生した場合、システム開発者、サプライヤー、および人工知能システムを実施する当事者は以下の責任を負うと規定している。a) システム開発者およびサプライヤーは、速やかに技術的措置を講じてシステムを修復、停止、または取り消し、管轄当局に通知しなければならない。b) 実施側およびユーザーは、インシデントを速やかに記録して通知し、修復プロセスを調整する義務がある。