Microsoft ostrzega, ponieważ sztuczna inteligencja w systemie Windows 11 jest zbyt „potężna”

Microsoft uważa również, że dzięki potędze sztucznej inteligencji system Windows 11 będzie w przyszłości ewoluował w kierunku „agresywnego systemu operacyjnego”.

Microsoft jest w trakcie opracowywania systemu Windows 11, planując w przyszłości przejście na „agresywny system operacyjny”. Firma wydała jednak ostrzeżenie o potencjalnych zagrożeniach związanych z tą nową funkcją.

Przed udostępnieniem eksperymentalnych funkcji uczestnikom programu Windows Insider firma Microsoft zaleca użytkownikom systemu Windows 11 włączenie tych funkcji tylko wtedy, gdy rozumieją konsekwencje związane z bezpieczeństwem.

Użytkownikom zaleca się ostrożność przy udzielaniu dostępu do komponentów agenta AI.

Według BGR , Microsoft potwierdził, że komponenty agenta AI (sztucznej inteligencji) zostaną domyślnie wyłączone, ponieważ funkcja ta może wiązać się z ryzykiem ataku typu cross-prompt injection (XPIA).

Atak ten ma miejsce, gdy aplikacje AI uzyskują dostęp do plików użytkownika, co może prowadzić do wycieku danych lub instalacji złośliwego oprogramowania. Konta agentów, przyznawane po włączeniu funkcji agenta AI, mają ograniczony dostęp do folderu profilu użytkownika, ale nadal mogą powodować niezamierzone konsekwencje.

Eksperymentalne komponenty agenta AI o nazwie Agent Workspace są już dostępne w wersji zapoznawczej dla deweloperów i wkrótce zostaną udostępnione większej liczbie użytkowników.

Chociaż żadna aplikacja nie obsługuje jeszcze tej funkcji, Copilot wkrótce będzie miał dostęp do Agent Workspace. Rodzi to jednak obawy dotyczące prywatności, ponieważ Copilot widzi cały ekran użytkownika.

Komponenty Agent Workspace są uważane przez firmę Microsoft za niebezpieczne i domyślnie są wyłączone.

Microsoft podkreśla, że ​​bezpieczeństwo nie jest funkcją tymczasową, lecz stałym zobowiązaniem, które będzie z czasem udoskonalane. Agent Workspace został zaprojektowany tak, aby umożliwić aplikacjom AI dostęp do plików w tle, podczas gdy użytkownicy nadal korzystają ze swoich urządzeń.

Użytkownicy nadal mogą jednak zarządzać dostępem i w razie potrzeby zatrzymać agenta. Obecnie wiele osób wyraża obawy i sprzeciw wobec tej nowej funkcji na forach internetowych.

Mimo to Microsoft uważa, że ​​w miarę jak coraz większa liczba użytkowników będzie miała dostęp do eksperymentalnych funkcji agenta AI, będą oni mieli więcej informacji o tym, jak one działają i na ile są bezpieczne.

Microsoft wprowadza funkcje sztucznej inteligencji w usłudze Agent 365.

Źródło: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html