「ベトナムのデジタルブレイクスルー時代」をテーマにしたOpenInfra & Cloud Native Day Vietnam 2025イベントの概要 - 写真: CHI HIEU
人工知能 (AI) は多くの価値をもたらし、特に現在では多くの企業に統合され、会社の従業員や顧客などのエンドユーザーにサービスを提供しています。そのため、AI 統合チャットボット システムは、ハッカーがデータ ストレージ システムを攻撃して情報を盗むための「狭い扉」になる可能性があります。
「現在、AIモデルを攻撃する方法は数多くあるが、最も一般的なのは、従来の情報保護システムには『見えない』と思われる『コンテンツポイズニング』だ」と、アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は、7月26日にハノイで開催されたOpenInfra & Cloud Native Day Vietnam 2025イベントで警告した。
このイベントは、ベトナムインターネット協会（VIA）が、ベトナムオープンインフラストラクチャコミュニティ（VietOpenInfra）、ベトナムクラウドコンピューティングおよびデータセンタークラブ（VNCDC）と連携し、 科学技術省の支援を受けて開催しました。
企業の90%がオープンプラットフォームまたはソフトウェアを使用している
ベトナムインターネット協会副会長兼事務局長のヴー・テ・ビン氏は開会の辞で、国家のデジタル変革プロセスにおけるオープンインフラとオープンソースコードの重要性を強調した。
ビン氏は、世界の技術が急速に変化する状況において、企業の90%以上がオープンプラットフォームやソフトウェアをさまざまな形で使用しており、オープンインフラストラクチャはイノベーションの基盤として発展し続けていると述べた。
Red Hatの調査（2024年）によると、テクノロジーリーダーの82%が、デジタルトランスフォーメーションを推進し、イノベーションを加速させる鍵はオープンプラットフォームとソフトウェアであると考えています。Kubernetes、OpenStack、Linux、Ceph、OpenTelemetryなどのプラットフォームは、AI、IoT、5G/6G、クラウドネイティブシステムの運用においてますます重要な役割を果たしています。
「10年前、クラウドは空の雲と間違えられることもあり、オープンソースは『武術の秘策』のように聞こえました。しかし今日、私たちは180カ国以上のグローバルなオープンインフラコミュニティと繋がり、共にコード行をイノベーションの原動力に変えています」と、ヴー・テ・ビン氏は語りました。
AIチャットボット - ハッカーがシステムに侵入するための「狭い扉」
「現在、多くの企業が、AIチャットボットなどのシステムを統合したオープンでレスポンシブなプラットフォームの有効性を積極的に活用し、業務パフォーマンスの向上やユーザーエクスペリエンスの強化に役立てています。
また、ここから「コンテンツポイズニング」攻撃を含むAIモデルに対する多くの攻撃手法が出てくると、アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は警告した。
彼は、ベトナムの企業がAIを導入する際には、この形式の攻撃についてまだあまり知らないとコメントした。
したがって、悪意のある行為者は、AI モデルに誤った情報を継続的に質問して再学習させるという手法を使用し、情報の「汚染」を引き起こします。
クラウドシステム上の情報が「感染」していても、検知されずに利用され続けると、不正確な情報を提供したり、この脆弱性を利用してデータベースに侵入し、情報を入手するなどの行為が行われることになります。
Akamai Technologies Vietnam のカントリーディレクター、Dao Viet Hung 氏 - 写真: CHI HIEU
ダオ・ベト・フン氏は、自動車会社のオンライン販売チャットボットシステムが新車をたった1ドルで販売すると確信したという珍しい話を引用した。
その理由は、チャットボットとのやり取りや交渉の過程で、この顧客がデータベースに「こっそり」侵入し、チャットボットに上記の要求に同意するよう説得する方法を見つけたためです。
もう 1 つの例としては、ハッカーが適切な質問を作成して社内の AI チャットボットに送信するだけで、企業の機密文書や組織図をすべて入手できたケースがあります。
そのリスクから、Dao Viet Hung氏はAI自体がAIを保護できるAIセキュリティソリューションを共有しました。これは世界中の多くの大企業で使用されている形です。
このセキュリティ方式では、保存されたデータは多層の保護を統合し、「感染」しにくくなります。
AI セキュリティ システムは、どの情報がクリーンで、どの情報が攻撃の潜在的なリスクがあるかを検出し、それに基づいて迅速かつ適切な処理計画を作成します...
出典: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
コメント (0)