潜在性にはリスクが伴う
人工知能（AI）が労働者を支援し、人々の生活をより豊かにする強力なツールとしてますますその威力を発揮していることは否定できません。しかし、これらの技術製品は、サイバー空間における詐欺や攻撃に悪用される際に「諸刃の剣」のような存在となります。
情報通信省情報セキュリティ局やサイバーセキュリティ協会からの警告速報には、AI技術を利用した詐欺の事例が多数記録されている。例えば、ハノイの会社員であるグエン・タン・Tさんは、Facebookメッセンジャーで友人とチャットしていたところ、友人は別れを告げて会話を終えたが、突然テキストメッセージに戻り、お金を借りたいと言い、銀行口座への振り込みを提案してきた。口座名は友人の名前と一致していたが、Tさんは不審に思い、確認のためにビデオ通話を依頼した。友人はすぐに同意したが、「ネットワークが断続的」だったため、通話は数秒しか続かなかった。
ビデオ通話で友人の顔を確認し、声も正しかったため、Tさんは送金しました。しかし、送金が成功した後になって初めて、ハッカーの罠にかかっていたことに気づいたのです。
Tさんだけでなく、多くの被害者、友人、親戚も同様の手口で詐欺に遭いました。ディープフェイクツールと音声を使ったなりすましで、犯人が騙し取った金額は数千万ドンに上ります。
AIを用いて資産を横領するもう一つの典型的な例は、NTH氏のケースです。詐欺師はAndroidスマートフォンを操作中に、悪意のあるリンクをインストールするよう指示する罠を仕掛けました。そこからスマートフォンと銀行口座を乗っ取り、第三者に送金しました。さらに、マルウェアは利用可能な連絡先に自動的に連絡し、送金を要求する自動メッセージを送信しました。
NTH氏によると、詐欺師は「 警察官」を名乗り、彼の電話番号に電話をかけ、個人情報の確認を求めてきたという。被害者は高齢でテクノロジーに疎く、騙されやすい人物だったため、携帯電話を第三者に渡し、詐欺師の指示に従うよう依頼した。こうして、悪意のあるアプリ「DichVuCong.apk」がダウンロードされ、インストールされたという。
情報システムセキュリティ部門（情報セキュリティ部門）のトラン・グエン・チュン部長は、「AI技術が発展すると、サイバー空間における本物と偽物のコンテンツの検知・判別がより困難になり、誰もがAI技術を利用した犯罪者によるサイバー攻撃の標的、つまり被害者になる可能性があります。しかし、被害者になるかどうかは、各個人が必要な知識と情報をどれだけ備えているかにかかっています」と述べました。
AI技術詐欺はベトナムだけでなく、世界中の多くの国で発生しています。現在、政府機関、団体、大手テクノロジー企業が協力して、これを根本から検知・防止するための対策と技術的解決策を模索しています。
現段階において重要な対策は、プロパガンダを推進し、この高度な偽造行為の手法、手口、そしてその見分け方と対処法について人々の意識を高めることです。これにより、ディープフェイクがサイバー空間における活動に与える影響を軽減・抑制することができます。新たな展開や詐欺の形態が明らかになった際には、マスメディアを通じて積極的に広範な警告を発してください。
「センシティブな画像や動画を添付した脅迫電話を受けた場合、冷静さを保ち、画像や動画の出所を確認し、慎重に調査する必要がある」とトラン・グエン・チュン氏は述べた。
ベトナム国家大学ハノイ校経済大学（UEB）の調査報告書「2024年の世界経済へのリスクの特定」によると、世界経済に影響を与えるリスクの一つはテクノロジーセクターのリスクです。報告書は、AIの急速な台頭を背景に、経営政策がAIの発展に追いついていないと指摘しています。特に今年のように世界中で多くの選挙が行われる年には、AIがもたらす誤情報が、安全保障、政治、防衛、そして平和に関わる多くの問題を世界的に引き起こしており、現在も引き起こし続けています。
科学技術副大臣のグエン・ホアン・ザン氏はティン・トゥック紙の記者に対し、「首相は、2030年までの人工知能に関する国家研究戦略、開発、応用に関する決定第127/2021号を公布しました。実施にあたり、科学技術省だけでなく他の省庁や部局も抜本的かつ同期的に実施しています。例えば、法務省は法的側面を研究しています。情報通信省はデジタル技術を研究しています。科学技術省はまた、インダストリー4.0を支援、研究開発し、情報技術開発を研究開発し、デジタルシティとスマートシティの開発に貢献しています。しかし、急速かつ強力な開発に伴い、AIが詐欺、なりすまし、脅迫、財産の横領などを目的としたサイバー犯罪者のツールとして悪用されるという、AIのマイナス面とリスクも現れています」と述べた。
現在まで、科学技術省と政府は、研究と並行して、ベトナムのAI分野がその潜在力を発揮し、発展を促進するとともに、人工知能分野における厳格な管理と倫理および人道性を確保するために、他の先進国の経験から学びながら、法的枠組みの構築も積極的に行っています。
AIツールの急速な発展は、人権、倫理、プライバシー、情報セキュリティ、法的責任など、多くの問題を引き起こしています。世界と比較すると、ベトナムのAI開発は依然として初期段階にあります。そのため、ベトナムの生活、経済、社会のあらゆる側面に適した、具体的なAI規制と政策が必要です。
緊急に法的枠組みを発行する
AIのダークサイドへの対応も、一部の国で議論されているテーマです。欧州議会は、人工知能を規制するための世界初の基本規則を承認しました。多くの技術専門家は、この規則がEUの2つの目標、すなわち技術開発によるユーザーへの悪影響を最小限に抑えるとともに、市場における主要競合他社の優位性に追いつくことに役立つと考えています。
その後まもなく、国連総会は人工知能（AI）に関する決議を採択し、この新しい技術がすべての国に利益をもたらし、人権を尊重し、「安全、安心、信頼できる」ものとなるよう国際的な取り組みを世界規模で支援しました。
ナショナルサイバーセキュリティテクノロジー株式会社のテクニカルディレクター、ヴー・ゴック・ソン氏は次のように述べています。「AIは人間の利益に資する技術であり、業務の様々な段階の自動化をサポートしています。これは強力なツールであり、Q＆Aサービスの提供、ソフトウェア開発など、様々な目的に活用されています。しかし、AIは悪意のある人物の手に渡り、詐欺的なコンテンツや悪意のあるコードを作成してユーザーを攻撃しようとするというマイナス面もあります。したがって、AIは製品開発や犯罪に特化したツールではなく、AIを「どのように使うか」が重要な課題です。」
「制裁措置や法整備は、AIの発展のスピードに追いついていないと思います。AIが悪用され、人権だけでなく安全保障、秩序、社会の安全にも影響を及ぼすリスクを制限するための政策を構築・導入するには、時間が必要です」と、ヴー・ゴック・ソン氏は述べた。
CMC ATI研究所所長のダン・ミン・トゥアン博士は次のように述べています。「一方では、AIを悪用する手口を研究し、新たな技術の研究開発を継続し、更新していく必要があります。また、科学と仕事における誠実さも推進していく必要があります。そのため、ベトナムでは、AIに関するコンテンツと具体的な政策への調整と投資が必要です。特に、AIツールは悪意のあるコンテンツやコードの検出にも活用できます。AIは『両刃の剣』のようなもので、人類の利益を最終目標として、継続的かつ継続的に改善していくプロセスを生み出します。」
専門家は、ハイテク製品の開発を責任を持って管理することが求められると述べている。なぜなら、技術を規制し、習得できないと、予測できない結果につながり、経済的損失を引き起こし、各個人だけでなく社会全体に影響を及ぼすことになるからだ。
具体的かつ透明性の高い規制を制定することは、AIが引き起こす可能性のあるリスクを防止および最小限に抑えるだけでなく、ベトナムが世界有数のテクノロジー企業からの注目と投資を引き付け、国内の情報技術およびAI産業の発展を促進することにも役立ちます。
最終論文：AIの並列開発と制御
[広告2]
出典: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238
コメント (0)