Microsoft vydává varování, protože umělá inteligence ve Windows 11 je příliš „výkonná“

Díky síle umělé inteligence se Microsoft také domnívá, že se Windows 11 v budoucnu vyvíjí v „agresivní operační systém“.

Společnost Microsoft v současné době vyvíjí systém Windows 11 a v budoucnu plánuje jeho přechod na „agresivní operační systém“. Společnost však vydala varování před potenciálními riziky spojenými s touto novou funkcí.

Před zavedením experimentálních funkcí pro program Windows Insider společnost Microsoft doporučuje, aby uživatelé Windows 11 tyto funkce povolovali pouze v případě, že chápou bezpečnostní důsledky.

Uživatelům se doporučuje, aby byli opatrní při udělování přístupu komponentám agenta umělé inteligence.

Podle serveru BGR společnost Microsoft potvrdila, že komponenty agentů s umělou inteligencí (AI) budou ve výchozím nastavení zakázány, protože tato funkce může způsobit riziko útoku typu cross-prompt injection (XPIA).

K tomuto útoku dochází, když je aplikacím s umělou inteligencí udělen přístup k uživatelským souborům, což může vést k únikům dat nebo instalaci malwaru. Účty agentů, udělené při povolení funkcí agenta s umělou inteligencí, mají omezený přístup ke složce profilu uživatele, ale stále mohou způsobit nezamýšlené následky.

Experimentální komponenty agenta s umělou inteligencí s názvem Agent Workspace jsou nyní k dispozici ve verzi preview pro vývojáře a brzy budou distribuovány dalším uživatelům.

I když tuto funkci zatím žádná aplikace nepodporuje, Copilot bude brzy mít přístup k Agent Workspace. To však také vyvolává obavy o soukromí, protože Copilot vidí celou obrazovku uživatele.

Součásti Agent Workspace jsou společností Microsoft považovány za nebezpečné a ve výchozím nastavení jsou zakázány.

Společnost Microsoft zdůrazňuje, že zabezpečení není dočasnou funkcí, ale trvalým závazkem, který bude v průběhu času zdokonalován. Agent Workspace je navržen tak, aby umožňoval aplikacím s umělou inteligencí přístup k souborům na pozadí, zatímco uživatelé mohou nadále používat svá zařízení.

Uživatelé však stále mohou spravovat přístup a v případě potřeby agenta zastavit. V současné době mnoho lidí stále vyjadřuje obavy a nesouhlas s touto novou funkcí na online fórech.

Microsoft se přesto domnívá, že čím více uživatelů získá přístup k experimentálním funkcím agentů s umělou inteligencí, tím více informací budou mít o tom, jak fungují a jak jsou bezpečné.

Microsoft představuje funkce umělé inteligence v agentu 365.

Zdroj: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html