Microsoft mengambil risiko

Skrin Windows 11 meminta kebenaran untuk menggunakan ejen AI. Foto: Windows Latest .

Sejak beberapa minggu lalu, Microsoft telah berusaha untuk mengintegrasikan ejen AI ke dalam Windows. Tetapi dokumentasi syarikat sendiri mengakui bahawa teknologi itu boleh "halusinasi," berkelakuan tidak dapat diramalkan, dan juga tertipu oleh serangan yang tidak wujud setahun yang lalu.

Pada pertengahan Oktober, Microsoft mengumumkan bahawa ia "mengubah setiap PC Windows 11 menjadi PC AI." Syarikat itu melancarkan satu siri penyepaduan AI baharu yang akan membolehkan "perbualan", membolehkan komputer melihat perkara yang ada pada skrin dan membiarkannya bertindak bagi pihaknya.

Integrasi atas risiko anda sendiri

Langkah terbaharu ini bertujuan untuk menjadikan bar tugas Windows 11 menjadi hab AI. Kotak carian Windows 11 sedang digantikan dengan antara muka "Tanya Copilot", yang membolehkan anda memanggil Copilot dengan satu klik atau arahan. Dari situ, anda boleh memantau ejen yang boleh menjalankan tugas di latar belakang, sama seperti anda mengurus apl biasa.

Microsoft juga tidak berpura-pura bahawa teknologi itu selamat atau sempurna. Dokumentasi rasminya memberi amaran bahawa ejen AI "mempunyai batasan fungsi dalam cara mereka berkelakuan dan kadangkala boleh berhalusinasi, mewujudkan hasil yang tidak diingini."

Bar tugas selepas menyepadukan ejen AI.

Salah satu risiko terbesar yang disebut ialah Cross Prompt Injection (XPIA). Dalam hal ini, ejen AI ditipu oleh kandungan berniat jahat yang dibenamkan dalam komponen antara muka pengguna (UI), dokumen atau aplikasi. Kandungan ini boleh mengatasi arahan asal dan memaksa chatbot untuk melakukan tindakan berbahaya seperti menyalin fail sensitif atau membocorkan data.

Penyelidik keselamatan telah memberi amaran bahawa ejen AI berasaskan GUI sangat terdedah kepada jenis serangan tidak langsung ini, kerana mereka selalunya mempunyai keistimewaan yang sangat tinggi. Walaupun Microsoft bersikap telus mengenai risiko, Copilot telah mendapat kecaman baru-baru ini kerana kebimbangan privasi dan tidak mungkin diterima pakai serta-merta.

Microsoft mendakwa bahawa ejen dijalankan di bawah akaun berasingan, dengan kebenaran terhad, dan log anti-gangguan. Walau bagaimanapun, mereka masih mempunyai akses membaca dan menulis ke beberapa lokasi paling peribadi pada PC anda, seperti Dokumen, Muat Turun, Desktop, Video, Gambar dan Muzik.

Cita-cita untuk menggantikan semua tugas dengan AI

Ruang Kerja Agen ialah tulang belakang visi Microsoft tentang OS Agentik. Windows 11 kini boleh membuat sesi berasingan untuk ejen ini, menjanjikan untuk melaksanakan fungsi seperti mengedit fail dan memindahkan dokumen tanpa memerlukan pengguna.

Setiap ejen akan mempunyai akaun standard sendiri pada PC, yang seperti persekitaran Windows selari tetapi tidak menjejaskan sesi kerja utama secara langsung. Di dalamnya, chatbot berinteraksi dengan aplikasi dengan cara yang sama seperti manusia, seperti mengklik butang antara muka, memasukkan teks, menatal tetingkap, menyeret dan menjatuhkan fail dan melaksanakan tugas berbilang langkah.

Bagaimana untuk mendayakan ciri berkaitan AI pada Windows 11.

Ruang Kerja Ejen bertanggungjawab untuk memutuskan perkara yang dipaparkan kepada ejen. Microsoft juga menggunakan Senarai Kawalan Akses untuk mengelakkan akaun daripada melampaui kuasa mereka. Untuk mendayakan mana-mana ciri ini, pengguna perlu mendayakan Ciri Agensi Eksperimen, yang dilumpuhkan secara lalai.

Bagi Microsoft, menyepadukan AI ke dalam PC adalah satu langkah yang tidak boleh diterbalikkan dalam konteks persaingan yang sengit. Apple juga bekerja keras untuk membangunkan Apple Intelligence, terutamanya apabila ia merancang untuk menggunakan versi Gemini yang disesuaikan. Google juga merancang untuk memasuki pasaran PC dengan OS Aluminium.

Walaupun MacBook kos rendah Apple yang akan datang, dengan versi penuh Apple Intelligence, telah dibincangkan secara meluas, Windows 11 telah dikritik kerana berasa kikuk dan memproses tugas dengan lebih perlahan. Ciri AI sebelumnya Microsoft, Recall, telah menimbulkan tindak balas terhadap keselamatannya yang lemah.

Sistem pengendalian "Agen" mungkin tidak dapat dielakkan untuk semua vendor. Bagaimanapun, menurut Window Latest, perkara penting ialah pelaksanaan dan Microsoft perlu mendapatkan semula kepercayaan pengguna dalam teknologi AI mereka.

Sumber: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html