Microsoft riskuje

Přestože je Microsoft transparentní ohledně rizik spojených s integrací umělé inteligence do Windows 11, stále si musí vybudovat důvěru ve svou implementaci ve srovnání s konkurencí.

Obrazovka systému Windows 11 požaduje povolení k použití agenta umělé inteligence. Obrázek: Windows Latest .

Společnost Microsoft se v posledních několika týdnech snaží integrovat agenty umělé inteligence do systému Windows. I ve vlastní dokumentaci však společnost uznává, že tato technologie může být náchylná k „halucinacím“, chovat se nepředvídatelně a nechat se oklamat typy útoků, které před rokem neexistovaly.

V polovině října společnost Microsoft oznámila, že „přemění každý počítač s Windows 11 na počítač s umělou inteligencí“. Společnost spustila řadu nových integrací umělé inteligence, které mají umožnit „konverzaci“, jež počítači umožňuje vidět, co je na obrazovce, a jednat v jeho zastoupení.

Integrace navzdory rizikům.

Nejnovější kroky si kladou za cíl proměnit hlavní panel systému Windows 11 v centrum umělé inteligence. Vyhledávací pole systému Windows 11 je nahrazeno rozhraním „Ask Copilot“, které uživatelům umožňuje přístup k aplikaci Copilot jediným kliknutím nebo příkazem. To uživatelům umožňuje sledovat, kteří agenti spouštějí úlohy na pozadí, podobně jako při správě běžných aplikací.

Společnost Microsoft se také nesnaží předstírat, že je tato technologie bezpečná nebo bezchybná. Oficiální dokumentace společnosti varuje, že agenti umělé inteligence „mají funkční omezení ve svém chování a někdy mohou halucinovat, což vede k neočekávaným výsledkům“.

Panel úloh po integraci agenta umělé inteligence.

Jedním z největších zmiňovaných rizik je Cross Prompt Injection (XPIA). V tomto případě je agent s umělou inteligencí oklamán škodlivým obsahem vloženým do komponent uživatelského rozhraní (UI), dokumentů nebo aplikací. Tento obsah může přepsat původní instrukce a donutit chatbota provádět škodlivé akce, jako je kopírování citlivých souborů nebo únik dat.

Bezpečnostní výzkumníci varovali, že agenti umělé inteligence založené na grafických rozhraních jsou obzvláště zranitelní vůči tomuto typu nepřímého útoku, protože jim jsou často udělena velmi vysoká oprávnění. Zatímco Microsoft byl ohledně rizik transparentní, Copilot nedávno čelil intenzivní kritice ohledně soukromí a je nepravděpodobné, že by si získal okamžité přijetí.

Společnost Microsoft tvrdí, že agenti budou spouštěni pod oddělenými účty s omezenými oprávněními a protokoly s omezením úprav. Budou však mít stále přístup pro čtení a zápis k některým z nejprivátnějších umístění v počítači, jako jsou Dokumenty, Stažení, Plocha, Videa, Obrázky a Hudba.

Cílem je, aby umělá inteligence nahradila všechny úkoly.

Pracovní prostor agenta je páteří vize společnosti Microsoft pro agentický operační systém (operační systém poháněný agenty s umělou inteligencí). Windows 11 nyní umožňuje vytvářet samostatné relace pro tyto agenty a slibuje provádění funkcí, jako je úprava souborů a přesun dokumentů, bez zásahu uživatele.

Každý agent bude mít na počítači svůj vlastní standardní účet, v podstatě existující v paralelním prostředí Windows, ale bez přímého ovlivňování hlavní relace. Uvnitř chatbot interaguje s aplikacemi jako člověk, například kliká na tlačítka rozhraní, píše text, posouvá okna, přetahuje soubory a provádí vícekrokové úkoly.

Jak povolit funkce související s umělou inteligencí ve Windows 11.

Pracovní prostor agenta je zodpovědný za rozhodování o tom, co se bude agentům zobrazovat. Společnost Microsoft také používá seznamy řízení přístupu (APS), aby zabránila účtům v překročení jejich oprávnění. Chcete-li povolit kteroukoli z těchto funkcí, musí uživatelé aktivovat experimentální funkce agenta, které jsou ve výchozím nastavení zakázány.

Pro Microsoft je integrace umělé inteligence do počítačů nevratným krokem tváří v tvář tvrdé konkurenci. Apple také usilovně pracuje na vývoji Apple Intelligence, zejména proto, že plánuje používat upravenou verzi Gemini. Google také plánuje vstoupit na trh s PC s Aluminium OS.

Zatímco připravovaný levný MacBook od Applu s kompletním balíčkem Apple Intelligence vyvolává mnoho diskusí, Windows 11 již byl kritizován za svou těžkopádnost a pomalejší rychlost zpracování. Předchozí funkce umělé inteligence od Microsoftu, Recall, se také setkala s negativní reakcí kvůli špatnému zabezpečení.

„Agentní“ operační systém je pro všechny dodavatele pravděpodobně nevyhnutelný. Podle serveru Windows Latest však klíč spočívá v implementaci a Microsoft bude muset znovu získat důvěru uživatelů ve svou technologii umělé inteligence.

Zdroj: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html