AI - 適切なサイバーセキュリティ対策のない「ギャンブル」

DNVN - AI（人工知能）が単独でタスクを完了できるようにする傾向に伴い、サイバー攻撃のリスクは飛躍的に増加します。心配なのは、強力であるはずの AI システムの一部が、実は非常に「脆弱」であるという点です。

タレス・グループのCEO、パトリス・ケイン氏によると、AIの影響に関する議論はますます激しくなり、この技術に対する懐疑的な意見も多く聞かれるという。しかし、AI は否定できない技術トレンドです。

AI主導のソーシャルメディアや消費者向けツールに関してテクノロジー大手を批判する人もいるが、AI自体は欠かせない技術になりつつある。その効果は比類がなく、いかなる企業や政府も無視できないほどのメリットが期待できます。

近い将来、AI は電気と同じくらい生活に欠かせないものとなり、自動車の走行、医療サービスの形成、銀行の保護、公共照明システムの管理などに役立つようになるでしょう。大きな疑問は、私たちは次に何が起こるか準備ができているかどうかだ。

AIをめぐる論争は主に倫理的問題、情報の偏り、仕事の将来に焦点を当てています。しかし、1つの大きな問題が見落とされています。それはAIのセキュリティです。ガートナー社が2024年に実施した企業リスク管理担当上級幹部を対象とした調査では、AIを活用した悪意のある攻撃とAIを活用した偽情報が上位2つのリスクとして特定されました。

タレスグループのCEO、パトリス・ケイン氏。

心配する理由はたくさんあります。アジア太平洋諸国はさまざまな方法で AI を導入しています - 2023 年の Finastra 調査では、ベトナムの金融機関が世界的に生成 AI (genAI) の導入をリードしています。ベトナムの回答者の 40% は、組織が生成 AI を含む自然言語処理機能を導入または改善していると回答しました。しかし、私たちは総合的な力を活用しなければ前進できません。政府と企業が協力して、安全で回復力のある AI エコシステムを構築する必要があります。

AI が独自にタスクを完了できるようにする傾向により、サイバー攻撃のリスクは飛躍的に増加します。心配なのは、強力であるはずの AI システムの一部が、実は非常に「脆弱」であるという点です。

AI システムを攻撃する方法は主に 2 つあります。 1 つ目は、システムに侵入し、個人の健康記録から企業の営業秘密まであらゆる情報を盗むことです。ハッカーは、医療データベースをマイニングしたり、チャットボットを騙して独自のデータ保護を回避させたりすることで、AI モデルを騙して機密情報を漏らす可能性があります。

2 番目の方法は、モデルを妨害して、結果を危険なほど歪めることです。たとえば、AI技術を搭載した自動車は、「停止」の標識を「時速100キロ」の速度標識と読み取ってしまう可能性があります。これらは AI を使用する際の明らかなリスクです。 AI アプリケーションが拡大するにつれて、システム攻撃のリスクは明らかに増大します。

しかし、こうしたリスクを回避するために AI を放棄するのは大きな間違いです。セキュリティのために競争力を犠牲にすると、組織はサードパーティに依存することになり、急速に不可欠になりつつあるテクノロジーに対する経験と制御が不足することになります。

AIは急速に成長しており、多くの組織や企業で応用されています。

では、リスクを負うことなく AI のメリットを享受するにはどうすればよいでしょうか?重要なステップは3つあります。

AIを賢く選びましょう。すべての AI システムが脆弱というわけではありません。たとえば、大規模言語モデルは大規模なデータセットと統計手法に依存しているため、脆弱です。しかし、シンボリックモデルやハイブリッドモデルなどの他の種類の AI は、データの使用範囲が狭く、明確なルールに従って動作するため、ハッキングが困難です。

ハイブリッド AI モデルは、記号的推論と機械学習を組み合わせて、論理的かつ正確な説明を提供します。ハイブリッド AI は、不正検出における誤検知を大幅に削減すると同時に、意思決定の透明性を高めます。これは、この地域の金融サービスおよび FinTech ビジネスにとって特に価値があります。

実証済みのセキュリティ対策を実装します。デジタル透かし、暗号化、カスタム トレーニングなどのツールを使用すると、潜在的な脅威に対して AI モデルを強化できます。アジア太平洋地域では、デジタル変革が加速している銀行、重要インフラ、医療などの分野にとって、これらのツールは不可欠です。タレスには、サイバーセキュリティチームが AI モデルを徹底的にテストし、ハッカーが悪用する前に脆弱性を見つけて修正できる「バトル ボックス」があります。これらのテスト ソリューションは、増大するサイバーセキュリティの脅威に直面した企業がシステムの復元力を評価および改善するのに役立ちます。

組織のサイバーセキュリティをアップグレードします。 AI は単独で動作するのではなく、組織の情報エコシステムの一部です。従来のサイバーセキュリティ対策を強化し、AI時代に合わせて適応させる必要があります。これは従業員のトレーニングから始まります。結局のところ、人為的ミスは依然としてあらゆるサイバーセキュリティ システムの最大の弱点です。

アジア太平洋地域全体でサイバーセキュリティ人材の不足が大きな課題となっています。企業は AI システムのセキュリティを確保するために従業員のスキルアップに投資する必要があります。たとえば、シンガポールのサイバーセキュリティ人材育成プログラムは、地域のスキルギャップを埋めるモデルを提供しています。

AIに対する戦争は、悪者と無知な犠牲者との間の進行中の紛争の一部に過ぎないと主張する人もいる。しかし今回は価格が高すぎます。アジア太平洋地域の企業や政府が AI セキュリティを優先しなければ、データ侵害のリスクが高まるだけでなく、経済成長やイノベーションの妨げにもなります。

最善の対応策は、AI セキュリティを戦略的な優先事項とし、協力して取り組むことです。そうして初めて、AI がその潜在能力を最大限に発揮し、社会の安全を維持しながら新たな成長とイノベーションを推進できるようになります。

ホアン・フオン

出典: https://doanhnghiepvn.vn/chuyen-doi-so/an-ninh-mang/ai-canh-bac-may-rui-neu-thieu-cac-bien-phap-an-ninh-mang-phu-hop/20250115013404507