마이크로소프트, 윈도우 11 AI가 너무 '강력'해 경고

Microsoft는 AI의 힘 덕분에 Windows 11이 미래에 '공격적인 OS'로 진화하는 과정에 있다고 믿습니다.

마이크로소프트는 윈도우 11을 개발 중이며, 향후 '공격적인 OS'로 전환할 계획입니다. 그러나 마이크로소프트는 이 새로운 기능과 관련된 잠재적 위험에 대해 경고했습니다.

Microsoft에서는 Windows Insider에 실험적 기능을 출시하기 전에 Windows 11 사용자가 보안 영향을 이해하는 경우에만 이러한 기능을 사용하도록 권장합니다.

사용자는 AI 에이전트 구성 요소에 대한 액세스 권한을 부여할 때 주의하는 것이 좋습니다.

BGR 에 따르면 Microsoft는 AI(인공지능) 에이전트 구성 요소가 기본적으로 비활성화될 것이라고 확인했습니다. 이 기능은 XPIA(크로스 프롬프트 주입) 공격 위험을 야기할 수 있기 때문입니다.

이 공격은 AI 애플리케이션이 사용자 파일에 접근 권한을 부여받을 때 발생하며, 이는 데이터 유출이나 악성 코드 설치로 이어질 수 있습니다. AI 에이전트 기능이 활성화되어 부여되는 에이전트 계정은 사용자 프로필 폴더에 대한 접근 권한이 제한적이지만, 의도치 않은 결과를 초래할 가능성이 있습니다.

Agent Workspace라고 불리는 실험적 AI 에이전트 구성 요소는 현재 개발자 미리보기로 제공되며 곧 더 많은 사용자에게 출시될 예정입니다.

아직 이 기능을 지원하는 앱은 없지만, Copilot에서 곧 Agent Workspace에 접근할 수 있게 됩니다. 하지만 Copilot이 사용자의 전체 화면을 볼 수 있기 때문에 개인정보 보호 문제가 발생할 수 있습니다.

Agent Workspace 구성 요소는 Microsoft에서 위험한 것으로 간주되어 기본적으로 비활성화됩니다.

Microsoft는 보안이 일시적인 기능이 아니라 시간이 지남에 따라 개선될 지속적인 노력이라고 강조합니다. Agent Workspace는 사용자가 기기를 계속 사용하는 동안 AI 애플리케이션이 백그라운드에서 파일에 액세스할 수 있도록 설계되었습니다.

하지만 사용자는 필요에 따라 접근 권한을 관리하고 에이전트를 중지할 수 있습니다. 현재 많은 사람들이 온라인 포럼에서 이 새로운 기능에 대한 우려와 이견을 표하고 있습니다.

그럼에도 불구하고 Microsoft는 더 많은 사용자가 실험적 AI 에이전트 기능을 사용하게 되면 이러한 기능이 어떻게 작동하는지, 얼마나 안전한지에 대한 정보를 더 많이 얻을 수 있을 것이라고 생각합니다.

Microsoft는 Agent 365에 AI 기능을 도입했습니다.

출처: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html