企業はAIエージェントに「敵対される」ことを避けるために、どのような対策を講じることができるでしょうか？

DNVN - AIは、単に「会話」することしかできない単純な言語モデル（LLM）から、複雑なタスクを自動的に実行できるAIエージェント、つまり「デジタルアシスタント」へと進化しており、将来的に強力なデジタル労働力となることが期待されています。しかし、AIに行動権限を与えることで、多くの新たな攻撃リスクが生じ、企業の情報セキュリティが脅かされています。

5月22日に開催されたセキュリティサミット2026フォーラムで、 Viettelサイバーセキュリティの情報セキュリティサービスセンター所長であるマイ・スアン・クオン氏は、AIエージェントと従来のLLMの最も危険な違いは、システムと直接やり取りできる能力にあると述べた。

従来のLLMはコマンドを受信して​​テキストを返すだけだったのに対し、AIエージェントはシェルコマンドの実行（コマンドラインを介してオペレーティングシステムとやり取りする）、ファイルシステムの読み書き操作、メールの自動送信、APIの呼び出し、ブラウザの制御といった機能を備えています。このアップグレードは、意図せずして攻撃の可能性を大きく広げ、従来の偽情報キャンペーンの範囲をはるかに超えるものとなっています。

マイ・スアン・クオン氏 - ヴィエッテル・サイバーセキュリティ情報セキュリティサービスセンター所長。

AIエージェントは、サイバー犯罪者の新たな標的になりつつある。

サイバーセキュリティ専門家によると、AIエージェントが「行動する」能力を持っていることが、サイバー犯罪者にとって新たな標的となっている理由だという。

最大のリスクの一つは、企業データの漏洩です。AIエージェントが効果的に機能するためには、ソースコード、文書、メールといった大量の社内情報を処理する必要がある場合が多くあります。こうしたデータがサードパーティのクラウドAIプラットフォームに送信されると、機密情報が漏洩するリスクが高まります。

サムスンの従業員がChatGPTを介して新しいソースコードを漏洩させた事例や、Metaの従業員が社内AIの指示に従って意図せずデータを漏洩させた事例が記録されている。

データ漏洩のリスクに加え、専門家は「間接的なプロンプト注入」についても警告している。ハッカーは、電子メール、ウェブサイト、文書などに悪意のある指示を埋め込むことで、AIエージェントをだまして、内部データへのアクセスやハッカーへの情報送信など、意図しない動作を実行させることができる。

ある事例では、攻撃者がモールス信号をメッセージに隠してシステムを回避し、暗号通貨エージェントであるGrok-Bankrbotが不正な送金を実行し、15万ドルの損失が発生した。

もう一つのリスクは、AIエージェント向け拡張機能のエコシステムから生じます。多くの企業従業員は、AIの機能を拡張するためにコミュニティから拡張機能をインストールしますが、ハッカーはこの経路を悪用してマルウェアを拡散する可能性があります。システムへのアクセス権を与えられたこれらの偽プラグインは、データやトークンを盗み出したり、デバイスにバックドアを作成したりする可能性があります。

クオン氏によると、「シャドウAI」と呼ばれる現象も発生しており、従業員がIT部門を通さずに独自に職場のコンピューターにAIエージェントをインストールするケースが増えているという。これにより、企業はアクセス制御が困難になり、システムセキュリティ侵害のリスクが高まる。

さらに、AIはユーザーの意図を誤って解釈する可能性があり、その結果、企業に重大な損害を与える可能性のあるコマンドが実行されてしまうことがあります。例えば、AIエージェントに過剰な権限が付与されると、誤った操作を実行したり、重要なデータを誤って削除したりする可能性があります。

リスクを軽減するために、組織は従来のウイルス対策ソフトウェアだけに頼るのではなく、多層防御型のセキュリティモデルを構築し、適切な導入ロードマップを作成することが推奨されます。

企業は多層的なセキュリティモデルを構築する必要がある。

企業が最初に取り組むべきステップは、脅威の検出です。企業は、エンドポイントとWebプロキシトラフィック（デバイスをインターネットに接続する中間サーバー）を利用して、脅威を集約し、特定することができます。

次に、AIゲートウェイを構築し、すべてのAIアクセスを一元的に制御するポイントとする必要があります。このゲートウェイは、パブリッククラウドへのデータ送信を制御します。

そのため、企業はAIゲートウェイやその他のAIアプリケーションに、悪意のあるコマンドを特定し、データ漏洩を防ぎ、システムへの不正アクセスや悪用を検出するために、追加の専門的な制御レイヤー（ガードレール）を実装する必要があります。

次のステップは、AIエージェントの強化策を確立することです。エンドポイントの監視システムは、異常な「自律的動作」を追跡するように構成する必要があります。AIエージェントは、インシデント発生時の拡散リスクを最小限に抑えるため、アクセス権限を最小限に抑えた隔離された環境で運用する必要があります。最後に、定期的なシステム監視が不可欠です。

「AIセキュリティガバナンスは、一度導入すればそれで終わりではなく、継続的な監視プロセスです」とクオン氏は述べた。

AIエージェントの急速な発展に伴い、AIセキュリティ管理は必須要件となるでしょう。企業がゼロトラストセキュリティモデルと厳格な監視体制を構築する準備ができていない場合、AIエージェントに業務を委ねることは、高度なスキルを持ちながらも操作されやすい従業員にシステムの鍵を渡すようなものです。

平和な

出典: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445