ハノイ条約、専門家らがAIの脅威に対する「デジタル免疫」を提案

犯罪学者で博士号を持つダオ・チュン・ヒュー中佐は、人工知能（AI）の発展は、人々が情報を作成し、受け取り、検証する方法を根本的に変えてきたと述べた。ディープフェイク、合成音声、人工画像といった技術は、本物と偽物の境界線をかつてないほど曖昧にしている。

ユーロポールの統計（2024年）によると、今日のオンラインコンテンツの約90％にさまざまなレベルでAI介入があり、そのうち15％に意図的な偽造の兆候が見られます。

ベトナム公安省は、AIを使って親族や銀行職員、政府機関になりすまし、財産を横領した一連の刑事事件を記録しており、中には数百億ドンに上る損失をもたらしたケースもある。

懸念されるのは、物質的な被害だけでなく、あらゆる人間関係の基盤である社会的な信頼の喪失です。真実が再構築されるとき、あらゆる社会関係の基盤である信頼が真っ先に攻撃の標的となってしまうのです。

「上記の現象は、単に犯罪手段が変化したというだけでなく、無形、国境を越えた、匿名、自己学習型といった全く新しい特徴を伴って、犯罪行為の空間が再形成されたものである」とダオ・チュン・ヒュー上級大佐は述べた。

AI時代の犯罪行動構造の変容

ダオ・チュン・ヒュー中佐は、AI時代の犯罪はもはや物理的な空間に制限されないと述べた。犯罪行為はデータモデル、アルゴリズム、自動生成システムを通じて行われ、個人や組織はあらゆる種類の情報の真正性を偽装することが可能になる。

従来の犯罪では物理的な痕跡（証拠、犯行現場、目撃者）が主な根拠となりますが、ハイテク犯罪ではデジタルな痕跡が鍵となります。AIは、犯罪者が2つの危険な能力を実現するのを助けます。それは、受信者に存在しないものを信じ込ませる合成現実と、行為の起源の特定を困難にする帰属侵食です。

犯罪学の観点から見ると、犯罪の 4 つの要素の構造に変化が見られます。

まず、主体はもはや一人の人間ではなく、自動化されたシステム、またはそれを遠隔制御する人々のグループである可能性があります。

第二に、侵害される対象は財産、名誉、データだけではなく、社会的な信頼も含まれます。これは無形の価値ですが、根本的な重要性を持っています。

第三に、犯罪を犯す手段はプログラムされており、自己学習型であり、制御が難しく、無制限に複製することができます。

第四に、社会的影響は経済的損害に留まらず、心理、道徳、国家安全保障にまで広がります。

「このように、人工知能は人間の創造性と生産をサポートするだけでなく、逸脱行動を再構築し、『デジタル犯罪学』という概念を現代の犯罪科学の新たな研究方向にしている」とヒュー氏は述べた。

従来の調査からデータ空間での調査への移行

ヒュー氏は、AIを活用した犯罪の出現により、捜査機関は業務モデルの革新を迫られていると述べた。事後捜査ではなく、行動が起こっている最中に情報の流れを収集・分析し、並行してデータ捜査を行う必要がある。

デジタルフォレンジックにおける「デジタル指紋」のように、各生成モデルの特定の特徴を取得できるAIトレース解析などの技術が研究されています。

ベトナムでは、公安省の専門部隊がテクノロジー企業と連携し、AIによって作成された音声、顔、動画認識サンプルのデータベースを構築している。

同時に、法整備も必要です。刑法改正の検討において「人工知能を用いて犯罪を行う」という犯罪を追加するとともに、AIシステムの所有者および運用者の責任について具体的な規定を設ける必要があります。

より重要なのは、「犯人探し」の思考から「予防」の思考への転換です。偽動画が公式発表よりも早く拡散する時代においては、国、企業、地域社会など、あらゆる関係者が迅速に対応し、連携していくことが鍵となります。

デジタル免疫、AI時代の「抗体」

ダオ・チュン・ヒュー中佐が強調する概念の一つに「デジタル免疫」があります。これは、社会が偽情報を自ら認識し、それに対処する能力のことです。彼によると、デジタル免疫を構築するには、3つの解決策を融合させる必要があるとのことです。

まず、柔軟かつ進化的な法的枠組みを構築し、管理とイノベーションのバランスを確保します。法律はAIを「枠組み」として捉えるべきではなく、技術の急速な変化に適応できるよう柔軟である必要があります。同時に、AIを利用する個人または組織は、自らが生み出した製品に対して責任を負わなければならないという二重責任の原則も確保する必要があります。

第二に、AI生成コンテンツの国家識別メカニズムを構築し、デジタル出所認証基準（AIウォーターマーク、来歴コード）を確立する。デジタルプラットフォームには、AI生成コンテンツにラベルを貼ったり検証したりすることを義務付け、ユーザーが受信段階から真贋を見分けられるようにする。

第三に、教育とソーシャルメディアは長期的な防衛線となります。法律は行動を規制できますが、意識を規制できるのは教育だけです。データセキュリティ、フェイクニュースの見分け方、テクノロジー倫理に関する知識を一般教育や大学のカリキュラムに統合することで、「デジタル抗体」を備えた市民層が育成され、安全な社会の持続可能な基盤が築かれるでしょう。

ヒュー氏によると、人工知能は単なる技術の進歩ではなく、人類にとっての道徳的かつ法的試練でもある。機械が真実を再現できるようになると、人々はプログラムできない唯一の信念を守る方法を学ばざるを得なくなる。

ベトナムは、柔軟な法的枠組みを構築し、AI犯罪防止における官民協力を強化し、国民に対するデジタル免疫教育を推進することで、積極的に主導権を握る必要がある。

「人工知能時代の安全な社会とは、最も強力なファイアウォールを持つ社会ではなく、最も警戒心の強い市民を持つ社会です。データがデジタル時代の燃料だとすれば、信頼こそがエンジンです。信頼がなければ、どんなに技術が進歩しても、どんなシステムも崩壊します」と、犯罪学者は強調した。

10月25日、ハノイで「サイバー犯罪対策 ― 責任の共有 ― 未来への展望」をテーマとした国連サイバー犯罪防止条約の署名式が行われました。ハノイ条約は、サイバー犯罪への対応における共同の取り組みを調整するための初の国際的な法的枠組み構築に向けた重要な一歩とされています。これは国際社会にとって歴史的な節目であるだけでなく、国際舞台におけるベトナムの役割と立場を確固たるものにするものです。

出典: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html