Microsoft podejmuje ryzyko

Mimo że Microsoft otwarcie mówi o ryzyku, jakie niesie ze sobą integracja sztucznej inteligencji z systemem Windows 11, musi jeszcze zbudować zaufanie do jej wdrożenia w porównaniu ze swoją konkurencją.

Ekran systemu Windows 11 prosi o pozwolenie na użycie agenta AI. Obraz: Windows Latest .

W ciągu ostatnich kilku tygodni Microsoft próbował zintegrować agentów AI z systemem Windows. Jednak nawet w swojej dokumentacji firma przyznaje, że technologia ta może być podatna na „halucynacje”, zachowywać się nieprzewidywalnie i dawać się oszukać typom ataków, które nie istniały jeszcze rok temu.

W połowie października Microsoft ogłosił, że „każdy komputer z systemem Windows 11 stanie się komputerem ze sztuczną inteligencją”. Firma wprowadziła serię nowych integracji ze sztuczną inteligencją, które mają umożliwić „konwersację”, pozwalając komputerowi widzieć to, co dzieje się na ekranie, i działać w jego imieniu.

Integracja pomimo ryzyka.

Najnowsze działania mają na celu przekształcenie paska zadań systemu Windows 11 w centrum sztucznej inteligencji. Pole wyszukiwania w systemie Windows 11 zostanie zastąpione interfejsem „Zapytaj Copilota”, umożliwiającym użytkownikom dostęp do Copilota za pomocą jednego kliknięcia lub polecenia. Dzięki temu użytkownicy będą mogli monitorować, którzy agenci wykonują zadania w tle, podobnie jak w przypadku zarządzania zwykłymi aplikacjami.

Microsoft nie twierdzi również, że ta technologia jest bezpieczna lub wolna od błędów. Oficjalna dokumentacja firmy ostrzega, że ​​agenci AI „mają ograniczenia funkcjonalne w swoim zachowaniu i czasami mogą mieć halucynacje, generując nieoczekiwane rezultaty”.

Pasek zadań po zintegrowaniu agenta AI.

Jednym z największych zagrożeń jest atak typu Cross Prompt Injection (XPIA). W tym przypadku agent AI zostaje oszukany przez złośliwą zawartość osadzoną w komponentach interfejsu użytkownika (UI), dokumentach lub aplikacjach. Zawartość ta może nadpisać oryginalne instrukcje i zmusić chatbota do wykonania szkodliwych działań, takich jak kopiowanie poufnych plików lub wyciek danych.

Badacze bezpieczeństwa ostrzegają, że agenci AI bazujący na interfejsach graficznych są szczególnie podatni na tego typu pośrednie ataki, ponieważ często otrzymują bardzo wysokie uprawnienia. Chociaż Microsoft otwarcie mówił o zagrożeniach, Copilot spotkał się ostatnio z ostrą krytyką dotyczącą prywatności i jest mało prawdopodobne, aby zyskał natychmiastową akceptację.

Microsoft twierdzi, że agenci będą działać na oddzielnych kontach z ograniczonymi uprawnieniami i dziennikami zabezpieczającymi przed edycją. Nadal będą jednak mieli dostęp do odczytu i zapisu w niektórych z najbardziej prywatnych lokalizacji na komputerze, takich jak Dokumenty, Pobrane, Pulpit, Filmy, Zdjęcia i Muzyka.

Ambicją jest, aby sztuczna inteligencja zastąpiła wszystkie zadania.

Obszar roboczy agenta (Agent Workspace) stanowi trzon wizji Microsoftu dotyczącej systemu operacyjnego opartego na agentach AI (Agentic OS). System Windows 11 może teraz tworzyć oddzielne sesje dla tych agentów, obiecując wykonywanie takich funkcji, jak edycja plików i przenoszenie dokumentów, bez ingerencji użytkownika.

Każdy agent będzie miał własne standardowe konto na komputerze, zasadniczo funkcjonujące w równoległym środowisku Windows, ale bez bezpośredniego wpływu na sesję główną. Wewnątrz chatbot komunikuje się z aplikacjami jak człowiek, klikając przyciski interfejsu, wpisując tekst, przewijając okna, przeciągając i upuszczając pliki oraz wykonując zadania wieloetapowe.

Jak włączyć funkcje związane ze sztuczną inteligencją w systemie Windows 11.

Obszar roboczy agenta decyduje o tym, co będzie wyświetlane agentom. Firma Microsoft korzysta również z list kontroli dostępu (Access Control Lists), aby zapobiec przekraczaniu uprawnień kont. Aby włączyć którąkolwiek z tych funkcji, użytkownicy muszą aktywować Eksperymentalne Funkcje Agenta, które są domyślnie wyłączone.

Dla Microsoftu integracja sztucznej inteligencji z komputerami PC to nieodwracalny krok w obliczu zaciętej konkurencji. Apple również intensywnie pracuje nad rozwojem Apple Intelligence, zwłaszcza że planuje wykorzystać zmodyfikowaną wersję Gemini. Google również planuje wejście na rynek komputerów PC z systemem Aluminium OS.

Podczas gdy nadchodzący, budżetowy MacBook firmy Apple, z pełnym pakietem Apple Intelligence, budzi wiele kontrowersji, system Windows 11 już spotkał się z krytyką za swoją nieporęczną konstrukcję i wolniejsze procesory. Poprzednia funkcja AI firmy Microsoft, Recall, również spotkała się z krytyką ze względu na słabe zabezpieczenia.

„Agentny” system operacyjny jest prawdopodobnie nieunikniony dla wszystkich dostawców. Jednak według Window Latest, klucz leży we wdrożeniu, a Microsoft będzie musiał odzyskać zaufanie użytkowników do swojej technologii sztucznej inteligencji.

Źródło: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html