ハノイ条約、専門家らがAIの脅威に対する「デジタル免疫」を提案

中佐、医師、そして犯罪学の専門家であるダオ・チュン・ヒュー氏によると、人工知能（AI）の発展は、人間が情報を作成し、受け取り、検証する方法を根本的に変えました。ディープフェイク、合成音声、人工画像といった技術は、真実と虚偽の境界線をかつてないほど曖昧にしています。

中佐、医師、犯罪学専門家のダオ・チュン・ヒュー氏。写真：インタビュー対象者提供。

ユーロポールの統計（2024年）によると、現在のオンラインコンテンツの約90％に、程度の差はあれAI生成要素が含まれており、15％には意図的な偽造の兆候が見られます。

ベトナム公安省は、犯罪者がAIを使って親族や銀行職員、政府職員になりすまし、資産を盗む事件が相次いでおり、被害額が数百億ドンに上るケースもあると記録している。

懸念されるのは、物質的な被害だけでなく、あらゆる人間関係の基盤である社会的な信頼が損なわれていることです。真実が再構築されるとき、あらゆる社会関係の基盤である信頼こそが、真っ先に攻撃の標的となってしまうのです。

「こうした現象は、単に犯罪の手段が変化したというだけでなく、犯罪行為の場が、無形、国境を越え、匿名、独学といった全く新しい特徴を伴って再形成されたものである」とダオ・チュン・ヒュー中佐は述べた。

AI時代の犯罪行動構造の変容。

ダオ・チュン・ヒュー中佐は、AI時代の犯罪はもはや物理的な空間に制限されないと述べた。犯罪行為はデータモデル、アルゴリズム、自動生成システムを通じて行われ、個人や組織はあらゆる種類の情報の真正性を偽造することが可能になる。

従来の犯罪では、物的証拠（証拠物、犯罪現場、目撃者）が主な根拠となりますが、ハイテク犯罪ではデジタル証拠が鍵となります。AIは、犯罪者に存在しないものを信じ込ませる合成現実と、行為の起源の追跡を困難にする帰属侵食という、2つの危険な能力を犯罪者に提供します。

犯罪学の観点から見ると、犯罪の 4 つの要素の構造の変化が見られます。

まず、主体はもはや一人の人間ではなく、自動化されたシステム、またはそれを遠隔操作する人々のグループである可能性があります。

第二に、侵害の対象は財産、評判、データだけではなく、社会的信頼、つまり根本的に重要な無形の価値です。

第三に、犯罪を犯す手段はプログラムされており、自己学習型で、制御が難しく、無制限に複製することができます。

第四に、社会的影響は経済的損失にとどまらず、心理、道徳、国家安全保障にも影響を及ぼします。

「このように、人工知能は人間の創造性や生産力を支援するだけでなく、逸脱行動を再構築し、『デジタル犯罪学』という概念を現代の犯罪科学における新たな研究方向にしている」とヒュー氏は述べた。

従来の調査からデータ空間での調査への移行。

ヒュー氏は、AIを活用した犯罪の出現により、捜査機関は業務モデルの革新を迫られていると主張した。事件発生後の捜査ではなく、データと並行して捜査を行い、事件発生時の情報の流れを収集・分析する必要がある。

デジタルフォレンジックにおける「デジタル指紋」のように、各生成パターンの特徴を取り出すことを可能にするAI痕跡解析などの技術が研究されています。

ベトナムでは、公安省の運用部隊がテクノロジー企業と協力して、AI生成の音声、顔、ビデオ認識サンプルのデータベースを構築している。

さらに、法整備も必要です。改正刑法に「人工知能を用いて犯罪を行う」という罪を追加するとともに、AIシステムの所有者や運用者の責任についても具体的な規定を設ける必要があります。

さらに重要なのは、「犯人追跡」という発想から「事前予防」という発想への転換です。偽動画が公式発表よりも早く拡散する時代においては、政府、企業、地域社会など、関係者間の迅速な対応と効果的な連携が不可欠です。

デジタル免疫、AI時代の「抗体」。

ダオ・チュン・ヒュー中佐が強調する概念の一つは「デジタル免疫」です。これは、社会が偽情報を認識し、対応する能力を指します。彼は、デジタル免疫を構築するには、3つの解決策が必要だと考えています。

まず第一に、管理とイノベーションのバランスを確保する、柔軟で進化する法的枠組みを構築する必要があります。法律はAIを「枠づける」のではなく、技術の急速な変化に適応できる柔軟性を備えつつ、二重責任の原則、すなわちAIを利用する個人または組織が自ら生み出した製品に対して責任を負うという原則を担保する必要があります。

第二に、AI生成コンテンツのデジタル来歴標準（AIウォーターマーク、来歴コード）を通じた国家的な識別メカニズムを確立する。デジタルプラットフォームには、AI生成コンテンツにラベルを付与または検証することが義務付けられるべきであり、ユーザーがコンテンツを受け取った瞬間から本物と偽物のコンテンツを区別できるようにする必要がある。

第三に、教育とソーシャルメディアは長期的な防衛線となります。法律は行動を規制できますが、意識を規制できるのは教育だけです。データセキュリティに関する知識、フェイクニュースを見分けるスキル、そしてテクノロジー倫理を一般教育や大学のカリキュラムに統合することで、「デジタル抗体」を持つ市民層が育成され、安全な社会の持続可能な基盤が築かれるでしょう。

ヒュー氏によると、人工知能は単なる技術の進歩ではなく、人類の倫理観と法的立場を試すものでもある。機械が真実を再現できるようになると、人間は自らの信念――唯一プログラムできないもの――を守る方法を学ばざるを得なくなる。

ベトナムは、柔軟な法的枠組みを構築し、AI関連犯罪の防止における官民協力を強化し、国民に対するデジタル免疫教育を推進することで、積極的に主導権を握る必要がある。

「人工知能時代の安全な社会とは、最も強力なファイアウォールを持つ社会ではなく、最も警戒心の強い市民がいる社会です。データがデジタル時代の燃料だとすれば、信頼こそがエンジンです。信頼がなければ、どんなに技術が進歩しても、どんなシステムも崩壊します」と、犯罪学者は強調した。

10月25日、ハノイで「サイバー犯罪対策 ― 責任の共有 ― 未来に向けて」をテーマとした国連サイバー犯罪防止条約の署名式が行われました。ハノイ条約は、サイバー犯罪対策における共同の取り組みを調整するための初の国際的な法的枠組み構築に向けた重要な一歩とされています。これは国際社会にとって歴史的な節目となるだけでなく、国際舞台におけるベトナムの役割と立場を確固たるものにするものです。

出典: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html