A Microsoft kockázatot vállal

Bár a Microsoft átláthatóan kezeli a Windows 11-be épített mesterséges intelligencia ügynökök jelentette kockázatokat, továbbra is bizalmat kell építenie a megvalósításában a versenytársakhoz képest.

Windows 11 képernyő, amely engedélyt kér az AI-ügynök használatára. Fotó: Windows Latest .

Az elmúlt hetekben a Microsoft azon dolgozott, hogy mesterséges intelligenciát használó ügynököket integráljon a Windowsba. De még a cég saját dokumentációja is elismeri, hogy a technológia „hallucinálható”, kiszámíthatatlanul viselkedhet, sőt, olyan támadások is megtéveszthetik, amelyek egy évvel ezelőtt még nem is léteztek.

Október közepén a Microsoft bejelentette, hogy „minden Windows 11-es PC-t mesterséges intelligenciával hajtott PC-vé alakít”. A vállalat egy sor új mesterséges intelligencia-integrációt indított el, amelyek lehetővé teszik a „beszélgetéseket”, lehetővé téve a számítógép számára, hogy lássa, mi van a képernyőn, és cselekedjen helyette.

Integráció saját felelősségre

A legújabb lépések célja, hogy a Windows 11 tálcáját mesterséges intelligencia központtá alakítsák. A Windows 11 keresőmezőjét egy „Kérdezd a Copilotot” felület váltja fel, amely lehetővé teszi a Copilot egyetlen kattintással vagy paranccsal történő meghívását. Innen figyelheti az ügynököket, akik a háttérben futtathatnak feladatokat, akárcsak a szokásos alkalmazásokat.

A Microsoft sem állítja, hogy a technológia biztonságos vagy tévedhetetlen. Hivatalos dokumentációjuk arra figyelmeztet, hogy a mesterséges intelligencia által támogatott ügynökök „funkcionális korlátokkal rendelkeznek a viselkedésükben, és néha hallucinálhatnak, ami nem kívánt eredményeket hozhat.”

Tálca az AI-ügynök integrálása után.

Az egyik legnagyobb említett kockázat a Cross Prompt Injection (XPIA). Ennek során egy MI-ügynököt felhasználói felület (UI) komponensekbe, dokumentumokba vagy alkalmazásokba ágyazott rosszindulatú tartalommal csapnak be. Ez a tartalom felülírhatja az eredeti utasításokat, és arra kényszerítheti a chatbotot, hogy káros műveleteket hajtson végre, például érzékeny fájlokat másoljon vagy adatokat szivárogtasson.

Biztonsági kutatók figyelmeztetnek, hogy a grafikus felhasználói felületen alapuló mesterséges intelligencia alapú ügynökök különösen sebezhetőek az ilyen típusú közvetett támadásokkal szemben, mivel gyakran nagyon magas jogosultságokkal rendelkeznek. Míg a Microsoft átláthatóan kezelte a kockázatokat, a Copilot a közelmúltban adatvédelmi aggályok miatt került támadások kereszttüzébe, és valószínűleg nem fogják azonnal bevezetni.

A Microsoft azt állítja, hogy az ügynökök külön fiókok alatt futnak, korlátozott engedélyekkel és manipuláció elleni naplókkal. Ennek ellenére továbbra is olvasási és írási hozzáféréssel rendelkeznek a számítógép néhány legprivátabb helyéhez, például a Dokumentumok, Letöltések, Asztal, Videók, Képek és Zene mappához.

Ambíció, hogy minden feladatot mesterséges intelligenciával helyettesítsenek

Az Agent Workspace a Microsoft Agentic OS-ről alkotott elképzelésének gerince. A Windows 11 mostantól külön munkameneteket hozhat létre ehhez az ügynökhöz, és olyan funkciókat ígér, mint a fájlok szerkesztése és a dokumentumok áthelyezése felhasználó nélkül.

Minden ügynöknek saját standard fiókja lesz a PC-n, ami egy párhuzamos Windows környezethez hasonlít, de nem befolyásolja közvetlenül a fő munkamenetet. A fiókon belül a chatbot ugyanúgy kommunikál az alkalmazásokkal, mint egy ember, például kattint a felhasználói felület gombjaira, szöveget ír be, görget az ablakokban, fájlokat húz és ejt, valamint többlépéses feladatokat hajt végre.

Hogyan engedélyezhetőek a mesterséges intelligenciával kapcsolatos funkciók a Windows 11 rendszeren.

Az Ügynöki Munkaterület felelős azért, hogy eldöntse, mi jelenjen meg az ügynököknek. A Microsoft hozzáférés-vezérlési listákat is használ annak megakadályozására, hogy a fiókok túllépjék a jogosultságaikat. Ezen funkciók engedélyezéséhez a felhasználóknak engedélyezniük kell a Kísérleti Ügynöki funkciókat, amelyek alapértelmezés szerint le vannak tiltva.

A Microsoft számára a mesterséges intelligencia PC-kbe integrálása egy visszafordíthatatlan lépés a kiélezett verseny közepette. Az Apple is keményen dolgozik az Apple Intelligence fejlesztésén, különösen akkor, amikor a Gemini testreszabott verziójának használatát tervezi. A Google is tervezi, hogy belép a PC-piacra az Aluminum OS-sel.

Miközben az Apple hamarosan megjelenő, olcsó MacBookjáról, amely az Apple Intelligence teljes verziójával lesz felszerelve, széles körben beszéltek, a Windows 11-et kritizálták, amiért nehézkesnek tűnik, és lassabban dolgozza fel a feladatokat. A Microsoft korábbi mesterséges intelligencia funkciója, a Recall negatív visszhangot váltott ki gyenge biztonsága miatt.

Az „ügynök” operációs rendszerek valószínűleg minden gyártó számára elkerülhetetlenek. A Window Latest szerint azonban a lényeg a megvalósítás, és a Microsoftnak vissza kell szereznie a felhasználók bizalmát a mesterséges intelligencia technológiájában.

Forrás: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html