Microsoft ottaa riskejä.

Vaikka Microsoft on avoin Windows 11:een integroitavan tekoälyn aiheuttamista riskeistä, sen on silti rakennettava luottamusta sen toteutukseen kilpailijoihinsa verrattuna.

Windows 11 -näyttö pyytää lupaa käyttää tekoälyagenttia. Kuva: Windowsin uusin versio .

Microsoft on viime viikkoina yrittänyt integroida tekoälyagentteja Windowsiin. Mutta jopa omissa dokumenteissaan yritys myöntää, että tämä teknologia voi olla altis "hallusinaatioille", käyttäytyä arvaamattomasti ja hämätä sitä hyökkäyksillä, joita ei ollut olemassa vuosi sitten.

Lokakuun puolivälissä Microsoft ilmoitti "muuttavansa jokaisen Windows 11 -tietokoneen tekoälytietokoneeksi". Yritys lanseerasi sarjan uusia tekoälyintegraatioita, jotka on suunniteltu mahdollistamaan "keskustelun", jolloin tietokone voi nähdä, mitä näytöllä on, ja toimia sen puolesta.

Integraatio riskeistä huolimatta.

Uusimmat toimet pyrkivät muuttamaan Windows 11:n tehtäväpalkin tekoälykeskukseksi. Windows 11:n hakukenttä korvataan ”Kysy Copilotilta” -käyttöliittymällä, jonka avulla käyttäjät voivat käyttää Copilotia yhdellä napsautuksella tai komennolla. Näin käyttäjät voivat seurata, mitkä agentit suorittavat taustalla tehtäviä, aivan kuten tavallisten sovellusten hallinnassa.

Microsoft ei myöskään väitä, että tämä teknologia olisi turvallinen tai virheetön. Yrityksen virallisessa dokumentaatiossa varoitetaan, että tekoälyagenteilla "on toiminnallisia rajoituksia käyttäytymisessään ja ne voivat joskus hallusinoida, mikä tuottaa odottamattomia tuloksia".

Tehtäväpalkki tekoälyagentin integroinnin jälkeen.

Saatat myös pitää tästä

Eurooppa ja globaalin tekoälykilpailun "toinen kierros".Jäätyään Yhdysvalloista ja Kiinasta jälkeen alustamallien kilpailussa Eurooppa panostaa teollisiin etuihinsa, luotettavaan dataan ja tekoälyyn saadakseen etulyöntiaseman käytännön sovellusvaiheessa.

Yksi suurimmista mainituista riskeistä on Cross Prompt Injection (XPIA). Tässä tekoälyagenttia huijataan haitallisella sisällöllä, joka on upotettu käyttöliittymäkomponentteihin, dokumentteihin tai sovelluksiin. Tämä sisältö voi ohittaa alkuperäiset ohjeet ja pakottaa chatbotin suorittamaan haitallisia toimia, kuten kopioimaan arkaluonteisia tiedostoja tai vuotamaan tietoja.

Tietoturvatutkijat ovat varoittaneet, että graafisiin käyttöliittymiin perustuvat tekoälyagentit ovat erityisen alttiita tällaiselle epäsuoralle hyökkäykselle, koska niille myönnetään usein erittäin korkeat käyttöoikeudet. Vaikka Microsoft on ollut avoin riskeistä, Copilot on viime aikoina kohdannut voimakasta kritiikkiä yksityisyyden suojaan liittyen, eikä se todennäköisesti saa välitöntä hyväksyntää.

Microsoft väittää, että agentit toimivat erillisillä tileillä, joilla on rajoitetut käyttöoikeudet ja muokkaussuojatut lokit. Niillä on kuitenkin edelleen luku- ja kirjoitusoikeudet joihinkin tietokoneen yksityisimpiin sijainteihin, kuten Dokumentit, Lataukset, Työpöytä, Videot, Kuvat ja Musiikki.

Tavoitteena on, että tekoäly korvaa kaikki tehtävät.

Agent Workspace on Microsoftin vision selkäranka Agenttic OS:lle (tekoälyagenttien tukema käyttöjärjestelmä). Windows 11 voi nyt luoda erilliset istunnot näille agenteille, mikä lupaa suorittaa toimintoja, kuten tiedostojen muokkaamista ja asiakirjojen siirtämistä, ilman käyttäjän toimia.

Jokaisella agentilla on oma vakiotilinsä tietokoneella, joka toimii käytännössä rinnakkaisessa Windows-ympäristössä vaikuttamatta suoraan pääistuntoon. Sisällä chatbot on vuorovaikutuksessa sovellusten kanssa ihmisen tavoin, kuten napsauttamalla käyttöliittymän painikkeita, kirjoittamalla tekstiä, vierittämällä ikkunoita, vetämällä ja pudottamalla tiedostoja ja suorittamalla monivaiheisia tehtäviä.

Tekoälyyn liittyvien ominaisuuksien ottaminen käyttöön Windows 11:ssä.

Agent Workspace päättää, mitä agenteille näytetään. Microsoft käyttää myös käyttöoikeusluetteloita estääkseen tilejä ylittämästä oikeuksiaan. Näiden ominaisuuksien käyttöönotto edellyttää kokeellisten agenttiominaisuuksien aktivointia, jotka ovat oletusarvoisesti poissa käytöstä.

Saatat myös pitää tästä

App Storen liikevaihto nousi ennätyskorkealle tekoälyaallon ansiosta.App Storen ekosysteemin ennustetaan saavuttavan ennätykselliset 1,4 biljoonaa dollaria vuonna 2025. Tekoälyyn integroidut sovellukset kokevat poikkeuksellista tulojen kasvua.

Microsoftille tekoälyn integrointi tietokoneisiin on peruuttamaton askel kovassa kilpailussa. Myös Apple tekee kovasti töitä kehittääkseen Apple Intelligence -teknologiaa, erityisesti koska se aikoo käyttää Gemini-käyttöjärjestelmän räätälöityä versiota. Myös Google suunnittelee PC-markkinoille tuloa Aluminium OS:llä.

Vaikka Applen tuleva budjettiluokan MacBook täydellä Apple Intelligence -paketilla on herättänyt paljon keskustelua, Windows 11:tä on jo kritisoitu sen kömpelyydestä ja hitaammasta prosessointinopeudesta. Myös Microsoftin aiempi tekoälyominaisuus, Recall, on kohdannut negatiivista palautetta heikon tietoturvansa vuoksi.

"Agenttimainen" käyttöjärjestelmä on kenties väistämätön kaikille toimittajille. Window Latestin mukaan avain on kuitenkin toteutuksessa, ja Microsoftin on palautettava käyttäjien luottamus tekoälyteknologiaansa.

Lähde: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html