ハッカーは、AIチャットボットと「チャット」することで機密性の高い企業情報を入手できる。

テクノロジー専門家によると、一連の高度なプロンプトを使用することで、ハッカーは気付かれずに企業の「機密」データベースに侵入できるという。

「ベトナムのデジタルブレイクスルー時代」をテーマにしたOpenInfra & Cloud Native Day Vietnam 2025イベントの概要 - 写真: CHI HIEU

人工知能（AI）は多くのメリットをもたらし、現在多くの企業で従業員や顧客などのエンドユーザーへのサービス提供のために導入されています。しかし、この統合によって脆弱性が生じ、ハッカーがデータストレージシステムを攻撃して情報を盗む可能性があります。

「現在、AIモデルを攻撃する方法は数多くあるが、最も一般的なのは『コンテンツポイズニング』であり、これは従来の情報保護システムには『見えない』と思われるタイプの攻撃だ」と、アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は、7月26日にハノイで開催されたOpenInfra & Cloud Native Day Vietnam 2025イベントで警告した。

このイベントは、ベトナムインターネット協会（VIA）が、ベトナムオープンインフラストラクチャコミュニティ（VietOpenInfra）、ベトナムクラウドコンピューティングおよびデータセンタークラブ（VNCDC）と協力し、 科学技術省の支援を受けて開催しました。

企業の 90% がオープンソースのプラットフォームまたはソフトウェアを使用しています。

ベトナムインターネット協会副会長兼事務局長のヴー・テ・ビン氏は開会の辞で、国家のデジタル変革プロセスにおけるオープンインフラとオープンソースの重要性を強調した。

ビン氏は、急速に変化する世界のテクノロジーを背景に、オープンインフラストラクチャはイノベーションの基盤として発展し続けており、企業の90％以上がさまざまな形でオープンプラットフォームやソフトウェアを使用していると述べた。

Red Hatの調査（2024年）によると、テクノロジーリーダーの82%が、オープンプラットフォームとソフトウェアがデジタルトランスフォーメーションを推進し、イノベーションを加速させる鍵であると考えています。Kubernetes、OpenStack、Linux、Ceph、OpenTelemetryなどのプラットフォームは、AI、IoT、5G/6G、クラウドネイティブシステムの運用においてますます重要な役割を果たしています。

「10年前なら、クラウドは空に浮かぶ雲と勘違いされ、オープンソースは『秘伝の武術』のように聞こえたかもしれません。しかし今日、私たちは180カ国以上のグローバルなオープンインフラコミュニティと繋がり、数行のコードをイノベーションの原動力に変えるために共に取り組んでいます」と、ヴー・ザ・ビン氏は語りました。

AI チャットボット – ハッカーがシステムに侵入するための「狭い窓」。

「現在、多くの企業が、AIチャットボットなどの統合システムを備えたオープンで応答性の高いプラットフォームの利点を積極的に活用し、業務効率の向上とユーザーエクスペリエンスの強化に取り組んでいます。」

アカマイ・テクノロジーズ・ベトナムのカントリーディレクター、ダオ・ヴィエット・フン氏は、この点から「コンテンツ・ポイズニング」攻撃など、AIモデルを標的とした多くの攻撃手法が出現すると警告した。

彼は、ベトナムの企業がAIを導入する際には、この種の攻撃に関する十分な知識がまだ欠けていると指摘した。

したがって、悪意のある行為者は、AI モデルに誤った情報を繰り返し尋ねて再学習させるという手法を使用し、情報の「汚染」を引き起こします。

クラウドシステム上の情報が「感染」しているにもかかわらず、検知されずに利用され続けると、不正確な情報を提供したり、この脆弱性を悪用してデータベースにアクセスし、情報を盗み出したりします。

Akamai Technologies Vietnam のカントリーディレクター、Dao Viet Hung 氏 - 写真: CHI HIEU

ダオ・ベト・フン氏は、自動車会社のオンライン販売チャットボットシステムが、新車をたった1ドルで販売するよう説得されたという珍しい話を挙げた。

その理由は、チャットボットとのやり取りと交渉のプロセス中に、この顧客がデータベースを「バイパス」し、チャットボットに要求に同意するよう説得することに成功したためです。

別の例では、ハッカーが適切な質問を作成して社内の AI チャットボットに送信するだけで、会社のすべての機密文書と組織図を入手することに成功しています。

そのリスクを踏まえ、ダオ・ヴィエット・フン氏は世界中の多くの大企業が採用している、AIがAIを保護するAIセキュリティソリューションについて説明しました。

このセキュリティ方式では、保存されたデータに多層的な保護が組み込まれているため、「感染」しにくくなります。

AI セキュリティ システムは、どの情報がクリーンで、どの情報が潜在的な攻撃リスクをもたらすかを検出し、迅速かつ適切なアクションを実行できます...

話題に戻る

親孝行

出典: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm