イスラエルのサイバーセキュリティ企業Zenityは、OpenAIのChatGPTサービスにおいて、史上初の「ゼロクリック」脆弱性を発見したと発表しました。このタイプの攻撃では、ユーザーがリンクをクリックしたり、ファイルを開いたり、意図的にやり取りしたりするなどの操作を行う必要はありませんが、アカウントへのアクセスや機密データの漏洩につながる可能性があります。
テルアビブのVNA特派員によると、Zenityの共同創業者兼CTOであるミハイル・ベルゴリ氏は、ハッカーがユーザーのメールアドレスを入手するだけで、過去や未来の内容を含む会話を完全に制御し、会話の目的を変更し、さらにはChatGPTを操作してハッカーの望み通りに動作させることさえできると直接説明した。
研究者らはプレゼンテーションで、侵害を受けたChatGPTがユーザーに対して密かに活動する「悪意のあるエージェント」へと変貌する可能性があることを示した。ハッカーは、チャットボットにウイルスに感染したソフトウェアのダウンロードを勧めたり、誤解を招くようなビジネスアドバイスを提供したり、ユーザーのアカウントがGoogleドライブに接続されている場合はそこに保存されているファイルにアクセスさせたりすることが可能だ。
このプロセス全体はユーザーに知られることなく実行されました。この脆弱性は、ZenityがOpenAIに通知した後にようやく完全に修正されました。
ZenityはChatGPTに加え、他の一般的なAIアシスタントプラットフォームを標的とした同様の攻撃も複数シミュレーションしました。MicrosoftのCopilot Studioでは、CRMデータベース全体が漏洩する可能性があることを研究者が発見しました。
Salesforce Einstein の場合、ハッカーは偽のサービスリクエストを作成し、すべての顧客との通信を自分たちの管理下にある電子メールアドレスにリダイレクトする可能性があります。
Google GeminiとMicrosoft 365 Copilotも「敵対的なエージェント」に変貌し、フィッシング詐欺を実行し、電子メールやカレンダーイベントを通じて機密情報を漏洩した。
別の例として、Cursor ソフトウェア開発ツールが Jira MCP と統合されると、偽の「チケット」を通じてプログラマーのログイン認証情報を盗むために悪用されました。
Zenity社によると、OpenAIやMicrosoftといった一部の企業は警告を受けてすぐにパッチをリリースした。しかし、発見された動作はセキュリティ上の脆弱性ではなく「設計上の特徴」であると主張し、問題への対応を拒否した企業もあった。
ミハイル・ベルゴリ氏によると、今日の大きな課題は、AIアシスタントが単純なタスクを実行するだけでなく、ユーザーを代表する「デジタルエンティティ」になりつつあることだ。つまり、フォルダを開いたり、ファイルを送信したり、メールにアクセスしたりできるのだ。彼は、これがハッカーにとっての「天国」のようなものであり、悪用可能な脆弱性が多数存在すると警告している。
Zenityの共同創業者兼CEOであるベン・カリガー氏は、同社の調査結果が、現在のセキュリティ対策ではAIアシスタントの運用にはもはや不十分であることを示していると強調した。カリガー氏は、組織に対し、これらの「エージェント」の活動を制御・監視するための専門的なソリューションへの投資など、アプローチの見直しを促した。
Zenityは2021年に設立されました。現在、世界中に約110名の従業員を擁し、そのうち70名がテルアビブオフィスに勤務しています。Zenityの顧客には、フォーチュン100企業に加え、フォーチュン5企業も多数含まれています。
出典: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
コメント (0)