マイクロソフトは現在、Windows 11の開発を進めており、将来的には「エージェントOS」へと進化させる計画だ。しかし、同社はこの新機能に伴う潜在的なリスクについて警告を発している。
マイクロソフトは、Windows Insiderプログラム参加者向けに実験的な機能を展開する前に、Windows 11ユーザーに対し、セキュリティ上の影響を十分に理解している場合にのみこれらの機能を有効にするよう勧告しています。
BGRによると、マイクロソフトは、この機能がクロスプロンプトインジェクション（XPIA）攻撃のリスクをもたらす可能性があるため、AI（人工知能）エージェントコンポーネントをデフォルトで無効にすることを認めた。
この攻撃は、AIアプリケーションがユーザーファイルへのアクセス権を与えられた場合に発生し、データ漏洩やマルウェアのインストールにつながる可能性があります。AIエージェント機能が有効になっている場合に付与されるエージェントアカウントは、ユーザープロファイルフォルダへのアクセスが制限されますが、それでも意図しない結果を引き起こす可能性があります。
「エージェントワークスペース」と呼ばれるこの実験的なAIエージェントコンポーネントは、現在開発者プレビュー版として提供されており、まもなくより多くのユーザーに展開される予定です。
現在この機能をサポートするアプリケーションはありませんが、Copilotはまもなくエージェントワークスペースにアクセスできるようになります。ただし、Copilotがユーザーの画面全体を見ることができるようになるため、プライバシーに関する懸念も生じます。
マイクロソフトは、エージェントワークスペースの一部のコンポーネントを非常に危険であると考えているため、それらはデフォルトで無効になっています。
マイクロソフトは、セキュリティは一時的な機能ではなく、継続的に調整していくべきものであると強調しています。エージェントワークスペースは、ユーザーがデバイスを使い続けながら、AIアプリケーションがバックグラウンドでファイルにアクセスできるように設計されています。
しかし、ユーザーはアクセス権限を管理したり、必要に応じてエージェントを停止したりすることは可能です。現在、この新機能について、オンラインフォーラムでは依然として多くの人々が懸念や異論を表明しています。
しかしながら、マイクロソフトは、より多くのユーザーが実験的なAIエージェント機能にアクセスできるようになるにつれて、それらの機能がどのように動作するのか、そしてどの程度安全なのかについて、より多くの情報が得られるようになると考えている。
出典: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-บน-windows-11-qua-ba-dao-post2149073216.html
コメント (0)