この脆弱性により、攻撃者は AI のメモリに悪意のあるコマンドを直接挿入することができ、便利な機能が任意のコードを実行するための永続的な武器に変わります (説明画像: ST)。
LayerX Security のレポートによると、この攻撃はクロスサイトリクエストフォージェリ (CSRF) の脆弱性を悪用し、ChatGPT の永続メモリに悪意のあるコマンドを挿入しました。
「メモリ」機能は元々、ユーザー名やパーソナライズされた応答の設定などの便利な詳細を AI が記憶できるように設計されたものですが、今では「破壊」される可能性があります。
メモリがマルウェアに感染すると、ユーザーが設定を通じて手動で削除しない限り、これらのコマンドは永続的に残り、複数のデバイスやセッションにわたってトリガーされる可能性があります。
「この脆弱性が特に危険なのは、ブラウザセッションだけでなく、AIの永続メモリをターゲットにしている点だ」とLayerX Securityのセキュリティ研究ディレクター、ミシェル・レヴィ氏は述べた。
レヴィ氏は次のように説明した。「簡単に言うと、攻撃者はAIを『騙す』トリックを使って、悪意のあるコマンドをメモリに書き込ませます。最も危険なのは、このコマンドがAIに永久に残ることです。ユーザーがコンピューターを切り替えたり、ログアウトして再度ログインしたり、別のブラウザを使用したりしても、それは変わりません。」
その後、ユーザーが全く通常のリクエストを行った際に、意図せずマルウェアを起動させてしまう可能性があります。その結果、ハッカーは密かにコードを実行したり、データを盗んだり、システムをより高度な制御下に置いたりすることが可能になります。
説明した攻撃シナリオは非常にシンプルです。まず、ユーザーがChatGPT Atlasにログインします。ユーザーは悪意のあるリンクをクリックするように誘導され、悪意のあるウェブサイトが密かにCSRFリクエストをトリガーし、被害者のChatGPTメモリに悪意のある命令を静かに挿入します。
最後に、ユーザーが AI にコードの作成を依頼するなど、完全に正当なクエリを実行すると、感染した「メモリ」がトリガーされます。
LayerXは、ChatGPT Atlasに強力なフィッシング対策機能が欠けていることで問題が悪化していると指摘している。
100 を超える脆弱性とフィッシング サイトを対象としたテストで、Atlas は悪意のある Web サイトの 5.8% しかブロックできませんでした。
この数字は、Google Chrome (47%) や Microsoft Edge (53%) と比較するとはるかに控えめであり、Atlas ユーザーは従来のブラウザと比較して攻撃に対して「最大 90% 脆弱」となります。
この発見は、NeuralTrust が以前に実証した別の急速なマルウェア注入の脆弱性に続くものであり、AI ブラウザが新たな攻撃の最前線になりつつあることを示しています。
OpenAIは先週初めにChatGPT Atlasウェブブラウザをリリースしました。当然のことながら、OpenAIはこのブラウザにChatGPT人工知能エンジンを統合し、ウェブ閲覧中のユーザーサポートを強化しました。
ユーザーが ChatGPT Atlas の検索結果をクリックすると、Web ページ ウィンドウのすぐ横に ChatGPT ダイアログ ボックスが表示され、表示しているコンテンツに関連する質問をすることができるため、読む時間が節約されます。
ChatGPT は、Web サイトのコンテンツを要約したり、電子メールの作成時にテキストを編集したり、コンテキストに合わせて書き直す方法を提案したりすることもできます。
出典: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
コメント (0)