マイクロソフトはリスクを負う

AIエージェントの使用許可を求めるWindows 11画面。写真： Windows Latest 。

マイクロソフトはここ数週間、WindowsへのAIエージェントの統合に取り組んできました。しかし、同社独自のドキュメントでも、この技術は「幻覚」を起こしたり、予測不能な動作をしたり、1年前には存在しなかった攻撃にさえ騙されたりする可能性があると認められています。

10月中旬、マイクロソフトは「すべてのWindows 11 PCをAI PCにする」と発表しました。同社は、コンピューターが画面上の内容を認識し、代わりに行動する「会話」を可能にする一連の新しいAI統合機能を発表しました。

自己責任で統合してください

最新の取り組みは、Windows 11のタスクバーをAIハブに変えることを目的としています。Windows 11の検索ボックスは「Ask Copilot」インターフェースに置き換えられ、クリックまたはコマンド1つでCopilotを呼び出すことができます。そこから、通常のアプリを管理するのと同じように、バックグラウンドでタスクを実行できるエージェントを監視できます。

マイクロソフトは、この技術が安全で絶対確実であると主張しているわけではありません。公式ドキュメントでは、AIエージェントは「動作に機能的な限界があり、幻覚を起こして意図しない結果をもたらすことがある」と警告しています。

AI エージェントを統合した後のタスクバー。

最も大きなリスクの一つとして挙げられるのは、クロスプロンプトインジェクション（XPIA）です。これは、AIエージェントがユーザーインターフェース（UI）コンポーネント、ドキュメント、またはアプリケーションに埋め込まれた悪意のあるコンテンツに騙され、本来の指示を上書きし、チャットボットに機密ファイルのコピーやデータ漏洩といった有害なアクションを実行させる可能性があります。

セキュリティ研究者は、GUIベースのAIエージェントは高い権限を持つことが多いため、こうした間接的な攻撃に対して特に脆弱であると警告しています。マイクロソフトはリスクについて透明性を保っていますが、Copilotは最近プライバシーに関する懸念から批判されており、すぐに導入される可能性は低いでしょう。

Microsoftは、エージェントは個別のアカウントで実行され、権限が制限され、改ざん防止ログが記録されると主張しています。しかし、ドキュメント、ダウンロード、デスクトップ、ビデオ、画像、音楽など、PC上の最もプライベートな場所への読み取りと書き込み権限は依然として保持されています。

全ての作業をAIに置き換える野望

エージェントワークスペースは、MicrosoftのエージェントOS構想の基盤です。Windows 11では、このエージェント用に個別のセッションを作成できるようになり、ファイルの編集やドキュメントの移動といった機能をユーザーを介さずに実行できるようになります。

各エージェントはPC上に独自の標準アカウントを持ちます。これは並列Windows環境のようなものですが、メインの作業セッションに直接影響を与えることはありません。このアカウント内で、チャットボットは人間と同じようにアプリケーションと対話します。例えば、インターフェースボタンのクリック、テキスト入力、ウィンドウのスクロール、ファイルのドラッグ＆ドロップ、複数ステップのタスクの実行などです。

Windows 11 で AI 関連機能を有効にする方法。

エージェントワークスペースは、エージェントに表示される内容を決定します。Microsoft はまた、アカウントが権限を逸脱するのを防ぐためにアクセス制御リストを使用しています。これらの機能を有効にするには、ユーザーは試験的なエージェント機能を有効にする必要があります。これはデフォルトで無効になっています。

マイクロソフトにとって、PCへのAI統合は、熾烈な競争の中では後戻りできない一歩です。AppleもApple Intelligenceの開発に力を入れており、特にGeminiのカスタマイズ版の導入を計画しています。GoogleもAluminum OSでPC市場への参入を計画しています。

Appleの次期低価格MacBookにはApple Intelligenceのフルバージョンが搭載され、広く話題となっている一方、Windows 11は操作性に欠け、タスク処理が遅いと批判されている。Microsoftの以前のAI機能「Recall」は、セキュリティの脆弱性が批判を浴びている。

「エージェント」型OSは、おそらくすべてのベンダーにとって避けられないものとなるでしょう。しかし、 Window Latestによると、重要なのは実装であり、MicrosoftはAI技術に対するユーザーの信頼を取り戻す必要があるとのことです。

出典: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html