A Microsoft figyelmeztetést adott ki, mert a Windows 11 mesterséges intelligenciája túl erős.

A Microsoft jelenleg a Windows 11 fejlesztésén dolgozik, és a jövőben egy „ügynöki operációs rendszerré” kívánja alakítani. A vállalat azonban figyelmeztetést adott ki az új funkcióval kapcsolatos lehetséges kockázatokra.

Mielőtt kísérleti funkciókat vezetne be a Windows Insider felhasználóknak, a Microsoft azt tanácsolja a Windows 11 felhasználóknak, hogy csak akkor engedélyezzék ezeket a funkciókat, ha teljes mértékben megértik a biztonsági vonatkozásokat.

A BGR szerint a Microsoft megerősítette, hogy az AI (mesterséges intelligencia) ügynökkomponensei alapértelmezés szerint le lesznek tiltva, mivel ez a funkció kockázatot jelenthet a kereszt-prompt injektálási (XPIA) támadások szempontjából.

Ez a támadás akkor történik, amikor a mesterséges intelligencia által használt alkalmazások hozzáférést kapnak felhasználói fájlokhoz, ami adatszivárgáshoz vagy rosszindulatú programok telepítéséhez vezethet. Azok az ügynökfiókok, amelyekhez a mesterséges intelligencia által használt ügynöki funkciók engedélyezésekor adják meg a hozzáférést, korlátozott hozzáféréssel rendelkeznek a felhasználói profilmappákhoz, de továbbra is fennáll a nem kívánt következmények veszélye.

Az Agent Workspace nevű kísérleti AI-ügynökkomponensek mostantól elérhetők fejlesztői előzetes verzióban, és hamarosan több felhasználó számára is elérhetővé válnak.

Bár jelenleg egyetlen alkalmazás sem támogatja ezt a funkciót, a Copilot hamarosan hozzáférhet az Agent Workspace-hez. Ez azonban adatvédelmi aggályokat is felvet, mivel a Copilot láthatja a felhasználó teljes képernyőjét.

A Microsoft az Agent Workspace bizonyos összetevőit nagyon veszélyesnek tartja, ezért alapértelmezés szerint le vannak tiltva.

A Microsoft hangsúlyozza, hogy a biztonság nem átmeneti funkció, hanem folyamatos elkötelezettség, amelyet idővel módosítani fognak. Az Agent Workspace úgy lett kialakítva, hogy a mesterséges intelligencia által vezérelt alkalmazások a háttérben hozzáférhessenek a fájlokhoz, miközben a felhasználók továbbra is használhatják eszközeiket.

A felhasználók azonban továbbra is kezelhetik a hozzáférési engedélyeket, és szükség esetén leállíthatják az ügynököt. Jelenleg sokan továbbra is aggodalmukat és nézeteltéréseiket fejezik ki ezzel az új funkcióval kapcsolatban online fórumokon.

A Microsoft ennek ellenére úgy véli, hogy ahogy egyre több felhasználó fér hozzá a kísérleti AI-ügynökök funkcióihoz, egyre több információval fognak rendelkezni azok működéséről és biztonságosságáról.