마이크로소프트는 위험을 감수한다

AI 에이전트 사용 권한을 요청하는 Windows 11 화면. 사진: Windows 최신 버전 .

지난 몇 주 동안 마이크로소프트는 윈도우에 AI 에이전트를 통합하기 위해 노력해 왔습니다. 하지만 마이크로소프트 자체 문서에서도 이 기술이 "환각"을 일으킬 수 있고, 예측할 수 없는 동작을 할 수 있으며, 심지어 1년 전에는 존재하지 않았던 공격에 속을 수도 있다는 점을 인정하고 있습니다.

10월 중순, 마이크로소프트는 "모든 Windows 11 PC를 AI PC로 전환"한다고 발표했습니다. 마이크로소프트는 "대화"를 가능하게 하는 일련의 새로운 AI 통합 기능을 출시했는데, 이를 통해 컴퓨터가 화면에 표시되는 내용을 보고 대신 행동할 수 있게 되었습니다.

자신의 위험에 따라 통합하세요

최근의 움직임은 Windows 11 작업 표시줄을 AI 허브로 전환하는 데 초점을 맞추고 있습니다. Windows 11 검색창은 "Ask Copilot" 인터페이스로 대체되어 한 번의 클릭이나 명령으로 Copilot을 호출할 수 있습니다. 이를 통해 일반 앱을 관리하듯이 백그라운드에서 작업을 실행할 수 있는 에이전트를 모니터링할 수 있습니다.

마이크로소프트는 이 기술이 안전하거나 완벽하다고 주장하지 않습니다. 공식 문서에서는 AI 에이전트가 "행동 방식에 기능적 한계가 있으며, 때로는 환각을 일으켜 의도치 않은 결과를 초래할 수 있다"고 경고합니다.

AI 에이전트를 통합한 후의 작업 표시줄.

언급된 가장 큰 위험 중 하나는 크로스 프롬프트 인젝션(XPIA)입니다. 이 공격에서 AI 에이전트는 사용자 인터페이스(UI) 구성 요소, 문서 또는 애플리케이션에 내장된 악성 콘텐츠에 속습니다. 이 콘텐츠는 원래 명령을 무시하고 챗봇이 민감한 파일을 복사하거나 데이터를 유출하는 등 유해한 작업을 수행하도록 강요할 수 있습니다.

보안 연구원들은 GUI 기반 AI 에이전트가 매우 높은 권한을 갖는 경우가 많기 때문에 이러한 간접 공격에 특히 취약하다고 경고했습니다. 마이크로소프트는 이러한 위험에 대해 투명하게 공개했지만, Copilot은 최근 개인정보 보호 문제로 비판을 받고 있으며 당장 도입될 가능성은 낮습니다.

Microsoft는 에이전트가 별도의 계정으로 실행되며 권한이 제한되고 변조 방지 로그가 기록된다고 주장합니다. 그러나 문서, 다운로드, 바탕 화면, 비디오, 사진, 음악 등 PC의 가장 개인적인 위치에 대한 읽기 및 쓰기 권한은 여전히 있습니다.

모든 업무를 AI로 대체하겠다는 야망

Agent Workspace는 Microsoft의 Agentic OS 비전의 핵심입니다. Windows 11은 이제 이 에이전트에 대해 별도의 세션을 생성하여 사용자 없이도 파일 편집 및 문서 이동과 같은 기능을 수행할 수 있도록 지원합니다.

각 상담원은 PC에 자체 표준 계정을 갖게 되는데, 이는 병렬 Windows 환경과 유사하지만 주 작업 세션에는 직접적인 영향을 미치지 않습니다. 이 계정 내에서 챗봇은 인터페이스 버튼 클릭, 텍스트 입력, 창 스크롤, 파일 드래그 앤 드롭, 여러 단계의 작업 수행 등 사람과 동일한 방식으로 애플리케이션과 상호 작용합니다.

Windows 11에서 AI 관련 기능을 활성화하는 방법

에이전트 작업 공간은 에이전트에게 표시되는 내용을 결정합니다. Microsoft는 또한 액세스 제어 목록을 사용하여 계정의 권한 초과를 방지합니다. 이러한 기능을 사용하려면 기본적으로 비활성화되어 있는 실험적 에이전트 기능을 활성화해야 합니다.

마이크로소프트에게 AI를 PC에 통합하는 것은 치열한 경쟁 속에서 되돌릴 수 없는 단계입니다. 애플 또한 Apple Intelligence 개발에 박차를 가하고 있으며, 특히 Gemini의 맞춤형 버전을 사용할 계획입니다. 구글 또한 Aluminum OS로 PC 시장에 진출할 계획입니다.

Apple의 곧 출시될 저가형 MacBook에는 Apple Intelligence 정식 버전이 탑재되어 많은 관심을 받았지만, Windows 11은 투박하고 작업 처리 속도가 느리다는 비판을 받았습니다. Microsoft의 이전 AI 기능인 Recall은 보안이 취약하다는 이유로 반발을 샀습니다.

"에이전트" 운영 체제는 모든 공급업체에게 필연적인 도입일 것입니다. 그러나 Window Latest에 따르면, 중요한 것은 구현이며, Microsoft는 AI 기술에 대한 사용자의 신뢰를 회복해야 할 것입니다.

출처: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html