A Microsoft kockázatot vállal

Annak ellenére, hogy a Microsoft átláthatóan kezeli a Windows 11-be integrált mesterséges intelligencia kockázatait, továbbra is bizalmat kell építenie a megvalósításában a versenytársakhoz képest.

A Windows 11 képernyője engedélyt kér az AI-ügynök használatára. Kép: Windows legújabb verziója .

Az elmúlt hetekben a Microsoft megpróbált mesterséges intelligenciát alkalmazó ügynököket integrálni a Windowsba. De még a saját dokumentációjában is elismeri, hogy ez a technológia hajlamos lehet a „hallucinációkra”, kiszámíthatatlanul viselkedhet, és olyan típusú támadások is megtéveszthetik, amelyek egy évvel ezelőtt még nem léteztek.

Október közepén a Microsoft bejelentette, hogy „minden Windows 11 PC-t mesterséges intelligenciával hajtott PC-vé alakít”. A vállalat egy sor új mesterséges intelligencia-integrációt indított el, amelyek célja a „beszélgetés” lehetővé tétele, lehetővé téve a számítógép számára, hogy lássa, mi van a képernyőn, és cselekedjen helyette.

Integráció a kockázatok ellenére.

A legújabb lépések célja, hogy a Windows 11 tálcáját mesterséges intelligencia központtá alakítsák. A Windows 11 keresőmezőjét egy „Kérdezd a Copilotot” felület váltja fel, amely lehetővé teszi a felhasználók számára, hogy egyetlen kattintással vagy paranccsal elérjék a Copilotot. Ez lehetővé teszi a felhasználók számára, hogy figyelemmel kísérjék, mely ügynökök futtatnak háttérfeladatokat, hasonlóan a szokásos alkalmazások kezeléséhez.

A Microsoft sem állítja, hogy ez a technológia biztonságos vagy hibamentes. A cég hivatalos dokumentációja arra figyelmeztet, hogy a mesterséges intelligencia által működtetett ügynökök „funkcionális korlátokkal rendelkeznek a viselkedésükben, és néha hallucinálhatnak, váratlan eredményeket produkálva”.

A tálca az AI-ügynök integrálása után.

Az egyik legnagyobb említett kockázat a Cross Prompt Injection (XPIA). Ennek során egy MI-ügynököt felhasználói felület (UI) komponensekbe, dokumentumokba vagy alkalmazásokba ágyazott rosszindulatú tartalommal csapnak be. Ez a tartalom felülírhatja az eredeti utasításokat, és arra kényszerítheti a chatbotot, hogy káros műveleteket hajtson végre, például érzékeny fájlokat másoljon vagy adatokat szivárogtasson.

Biztonsági kutatók figyelmeztetnek, hogy a grafikus felületeken alapuló mesterséges intelligencia ágensek különösen sebezhetőek az ilyen típusú közvetett támadásokkal szemben, mivel gyakran nagyon magas jogosultságokat kapnak. Míg a Microsoft átláthatóan kezelte a kockázatokat, a Copilot a közelmúltban heves kritikákkal szembesült az adatvédelemmel kapcsolatban, és valószínűleg nem fog azonnal elfogadásra találni.

A Microsoft azt állítja, hogy az ügynökprogramok külön fiókok alatt, korlátozott jogosultságokkal és szerkesztés elleni védelemmel ellátott naplókkal fognak futni. Azonban továbbra is olvasási és írási hozzáféréssel rendelkeznek majd a számítógép néhány legprivátabb helyéhez, például a Dokumentumok, Letöltések, Asztal, Videók, Képek és Zene mappához.

A cél az, hogy a mesterséges intelligencia minden feladatot felváltson.

Az Agent Workspace a Microsoft Agentic OS (mesterséges intelligencia által működtetett operációs rendszer) víziójának gerincét alkotja. A Windows 11 mostantól külön munkameneteket hozhat létre ezekhez az ügynökökhöz, és olyan funkciókat ígér, mint a fájlszerkesztés és a dokumentumok áthelyezése felhasználói beavatkozás nélkül.

Minden ügynöknek saját standard fiókja lesz a PC-n, lényegében egy párhuzamos Windows környezetben létezik, de anélkül, hogy közvetlenül befolyásolná a fő munkamenetet. Belül a chatbot emberhez hasonlóan kommunikál az alkalmazásokkal, például a felhasználói felület gombjaira kattint, szöveget ír be, ablakokat görget, fájlokat húz és ejt, és többlépéses feladatokat hajt végre.

Hogyan engedélyezhetőek a mesterséges intelligenciával kapcsolatos funkciók a Windows 11 rendszeren.

Az Agent Workspace felelős azért, hogy mi jelenjen meg az ügynököknek. A Microsoft hozzáférés-vezérlési listákat is használ annak megakadályozására, hogy a fiókok túllépjék a jogosultságaikat. Ezen funkciók engedélyezéséhez a felhasználóknak aktiválniuk kell a kísérleti ügynöki funkciókat, amelyek alapértelmezés szerint le vannak tiltva.

A Microsoft számára a mesterséges intelligencia PC-kbe integrálása visszafordíthatatlan lépés a kiélezett versenyben. Az Apple is keményen dolgozik az Apple Intelligence fejlesztésén, különösen mivel a Gemini egy testreszabott verzióját tervezi használni. A Google is tervezi, hogy belép a PC-piacra az Aluminium OS-sel.

Miközben az Apple hamarosan megjelenő, teljes Apple Intelligence csomaggal ellátott, olcsó MacBookja sok vitát váltott ki, a Windows 11-et már kritizálták a nehézkessége és a lassabb feldolgozási sebessége miatt. A Microsoft korábbi mesterséges intelligencia funkciója, a Recall is negatív visszhangot kapott gyenge biztonsági okokból.

Egy „ügynöki” operációs rendszer talán elkerülhetetlen minden gyártó számára. A Window Latest szerint azonban a kulcs a megvalósításban rejlik, és a Microsoftnak vissza kell szereznie a felhasználók bizalmát a mesterséges intelligencia technológiájában.

Forrás: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html