OpenAI は AI ブラウザの危険性を認識しています。

(CLO) ChatGPT Atlas のような AI ブラウザは非常に便利ですが、「プロンプト インジェクション」攻撃という危険なセキュリティ上の課題も存在します。

プロンプトインジェクションは、ウェブサイトやメール上のAI処理コンテンツに悪意のあるリクエストを挿入する、非技術的な攻撃です。OpenAIは、「フィッシングやその他の非技術的なウェブ攻撃と同様に、プロンプトインジェクション攻撃を完全に「解決」することはほぼ不可能です」と述べています。

OpenAIは根本的な解決策を模索するのではなく、継続的な防御戦略へと転換しました。強化学習によって訓練されたAIベースの「自律攻撃者」を開発し、脆弱性を自律的に発見し、攻撃をシミュレートし、システムを内部からテストできるようにしました。

OpenAI はプロンプト インジェクション攻撃手法を示しています。

OpenAIの取り組みは特異なものではありません。GoogleやAnthropicといった競合他社も、多層防御の構築とシステムの継続的なテストに注力しています。

ユーザーに対する安全に関する推奨事項には、次のものがあります:確認の要求: 重要なアクションを実行する前に必ず同意を求めるように AI を設定します。アクセスの制限: 広範囲で漠然としたアクセスを許可するのではなく、具体的で焦点を絞った指示を提供します。ログイン権限の制限: 絶対に必要な場合のみ、AI に機密アカウントへのアクセスを許可します。

AIブラウザの将来は明るいものの、注意が必要です。セキュリティは、開発者による継続的な防御強化の取り組みと、ユーザーの積極的な保護意識にかかっています。

出典: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html