Microsoft vydává varování, protože umělá inteligence ve Windows 11 je příliš výkonná.

Díky síle umělé inteligence Microsoft také tvrdí, že se Windows 11 vyvíjí v budoucí „agentní operační systém“.

Společnost Microsoft v současné době vyvíjí systém Windows 11 a plánuje jej v budoucnu transformovat na „agentní operační systém“. Společnost však vydala varování před potenciálními riziky spojenými s touto novou funkcí.

Před spuštěním experimentálních funkcí pro uživatele programu Windows Insider společnost Microsoft doporučuje uživatelům Windows 11, aby tyto funkce povolovali pouze v případě, že plně chápou bezpečnostní důsledky.

Uživatelům se doporučuje, aby při udělování přístupových oprávnění komponentám agenta umělé inteligence postupovali opatrně.

Podle BGR společnost Microsoft potvrdila, že komponenty agentů AI (umělé inteligence) budou ve výchozím nastavení zakázány, protože tato funkce by mohla představovat riziko útoků typu cross-prompt injection (XPIA).

K tomuto útoku dochází, když je aplikacím s umělou inteligencí udělen přístup k uživatelským souborům, což může vést k únikům dat nebo instalaci malwaru. Účty agentů, udělené při povolení funkcí agenta s umělou inteligencí, budou mít omezený přístup ke složkám uživatelských profilů, ale stále mohou způsobit nezamýšlené následky.

Experimentální komponenty agenta s umělou inteligencí s názvem Agent Workspace jsou nyní k dispozici ve verzi preview pro vývojáře a brzy budou distribuovány dalším uživatelům.

Ačkoli tuto funkci v současné době žádná aplikace nepodporuje, Copilot bude mít brzy přístup k Agent Workspace. To však také vyvolává obavy o soukromí, protože Copilot by mohl vidět celou obrazovku uživatele.

Společnost Microsoft považuje určité komponenty Agent Workspace za velmi nebezpečné, proto jsou ve výchozím nastavení zakázány.

Společnost Microsoft zdůrazňuje, že zabezpečení není dočasná funkce, ale trvalý závazek, který bude v průběhu času upravován. Agent Workspace je navržen tak, aby umožňoval aplikacím s umělou inteligencí přístup k souborům na pozadí, zatímco uživatelé mohou nadále používat svá zařízení.

Uživatelé však stále mohou spravovat přístupová oprávnění a v případě potřeby agenta zastavit. V současné době mnoho lidí stále vyjadřuje obavy a nesouhlas s touto novou funkcí na online fórech.

Microsoft nicméně věří, že čím více uživatelů získá přístup k experimentálním funkcím agenta s umělou inteligencí, tím více informací budou mít o tom, jak fungují a jak jsou bezpečné.

Microsoft představuje funkce umělé inteligence v agentu 365.

Zdroj: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-บน-windows-11-qua-ba-dao-post2149073216.html