Microsoft mengambil risiko

Walaupun telus tentang risiko yang ditimbulkan oleh AI yang disepadukan ke dalam Windows 11, Microsoft masih perlu membina kepercayaan dalam pelaksanaannya berbanding pesaingnya.

Skrin Windows 11 meminta kebenaran untuk menggunakan ejen AI. Imej: Windows Latest .

Sejak beberapa minggu lalu, Microsoft telah cuba mengintegrasikan ejen AI ke dalam Windows. Tetapi walaupun dalam dokumentasinya sendiri, syarikat itu mengakui bahawa teknologi ini boleh terdedah kepada "halusinasi", berkelakuan tidak dapat diramalkan, dan tertipu oleh jenis serangan yang tidak wujud setahun yang lalu.

Pada pertengahan Oktober, Microsoft mengumumkan bahawa ia akan “menukarkan setiap PC Windows 11 menjadi PC AI.” Syarikat itu melancarkan satu siri integrasi AI baharu yang direka untuk membolehkan “perbualan”, yang membolehkan komputer melihat apa yang ada di skrin dan bertindak bagi pihaknya.

Integrasi walaupun terdapat risiko.

Langkah terkini bertujuan untuk mengubah bar tugas Windows 11 menjadi hab AI. Kotak carian Windows 11 digantikan dengan antara muka "Tanya Copilot", yang membolehkan pengguna mengakses Copilot dengan satu klik atau arahan. Ini membolehkan pengguna memantau ejen mana yang menjalankan tugas latar belakang, seperti mengurus aplikasi biasa.

Microsoft juga tidak berpura-pura bahawa teknologi ini selamat atau bebas daripada ralat. Dokumentasi rasmi syarikat itu memberi amaran bahawa ejen AI "mempunyai batasan fungsi dalam cara mereka bertindak dan kadangkala boleh berhalusinasi, menghasilkan keputusan yang tidak dijangka."

Bar tugas selepas mengintegrasikan ejen AI.

Salah satu risiko terbesar yang disebut ialah Suntikan Prompt Silang (XPIA). Dalam hal ini, ejen AI ditipu oleh kandungan berniat jahat yang terbenam dalam komponen, dokumen atau aplikasi antara muka pengguna (UI). Kandungan ini boleh mengatasi arahan asal dan memaksa chatbot melakukan tindakan berbahaya seperti menyalin fail sensitif atau membocorkan data.

Penyelidik keselamatan telah memberi amaran bahawa ejen AI yang berasaskan antara muka grafik amat terdedah kepada serangan tidak langsung jenis ini, kerana mereka sering diberikan keistimewaan yang sangat tinggi. Walaupun Microsoft telah telus tentang risiko tersebut, Copilot baru-baru ini menghadapi kritikan hebat mengenai privasi dan tidak mungkin mendapat penerimaan segera.

Microsoft mendakwa bahawa ejen akan dijalankan di bawah akaun berasingan dengan keistimewaan terhad dan log anti-penyuntingan. Walau bagaimanapun, mereka masih mempunyai akses baca dan tulis ke beberapa lokasi paling peribadi pada PC, seperti Dokumen, Muat Turun, Desktop, Video, Gambar dan Muzik.

Cita-citanya adalah untuk menggantikan semua tugasan dengan AI.

Ruang Kerja Ejen merupakan tulang belakang visi Microsoft untuk OS Agentic (sistem pengendalian yang dikuasakan oleh ejen AI). Windows 11 kini boleh mencipta sesi berasingan untuk ejen ini, menjanjikan untuk melaksanakan fungsi seperti penyuntingan fail dan pemindahan dokumen tanpa campur tangan pengguna.

Setiap ejen akan mempunyai akaun standardnya sendiri pada PC, yang pada asasnya wujud dalam persekitaran Windows selari tetapi tanpa memberi kesan langsung kepada sesi utama. Di dalamnya, chatbot berinteraksi dengan aplikasi seperti manusia, seperti mengklik butang antara muka, menaip teks, menatal tetingkap, menyeret dan melepaskan fail dan melaksanakan tugas berbilang langkah.

Cara mendayakan ciri berkaitan AI pada Windows 11.

Ruang Kerja Ejen bertanggungjawab untuk menentukan apa yang akan dipaparkan kepada ejen. Microsoft juga menggunakan Senarai Kawalan Akses untuk mengelakkan akaun daripada melebihi keistimewaannya. Untuk mendayakan mana-mana ciri ini, pengguna perlu mengaktifkan Ciri Ejen Eksperimen, yang dinyahdayakan secara lalai.

Bagi Microsoft, penyepaduan AI ke dalam PC merupakan langkah yang tidak dapat dipulihkan dalam menghadapi persaingan yang sengit. Apple juga sedang berusaha keras untuk membangunkan Apple Intelligence, terutamanya kerana ia merancang untuk menggunakan versi Gemini yang disesuaikan. Google juga merancang untuk memasuki pasaran PC dengan Aluminium OS.

Walaupun MacBook bajet Apple yang akan datang, dengan suit Apple Intelligence yang lengkap, sedang mencetuskan banyak perbincangan, Windows 11 telah pun dikritik kerana sifatnya yang rumit dan kelajuan pemprosesan yang lebih perlahan. Ciri AI Microsoft sebelum ini, Recall, juga telah menghadapi tindak balas akibat keselamatannya yang lemah.

Sistem pengendalian "ejen" mungkin tidak dapat dielakkan untuk semua vendor. Walau bagaimanapun, menurut Window Latest, kuncinya terletak pada pelaksanaannya, dan Microsoft perlu mendapatkan semula kepercayaan pengguna terhadap teknologi AInya.

Sumber: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html