Microsoft mengambil risiko

Layar Windows 11 meminta izin untuk menggunakan agen AI. Foto: Windows Terbaru .

Selama beberapa minggu terakhir, Microsoft telah berupaya mengintegrasikan agen AI ke dalam Windows. Namun, bahkan dokumentasi perusahaan sendiri mengakui bahwa teknologi tersebut dapat "berhalusinasi", berperilaku tak terduga, dan bahkan tertipu oleh serangan yang belum ada setahun yang lalu.

Pada pertengahan Oktober, Microsoft mengumumkan bahwa mereka akan "mengubah setiap PC Windows 11 menjadi PC AI." Perusahaan meluncurkan serangkaian integrasi AI baru yang memungkinkan "percakapan", yang memungkinkan komputer melihat apa yang ditampilkan di layar dan membiarkannya bertindak atas namanya sendiri.

Integrasikan dengan risiko Anda sendiri

Langkah terbaru bertujuan untuk mengubah bilah tugas Windows 11 menjadi pusat AI. Kotak pencarian Windows 11 digantikan dengan antarmuka "Tanya Copilot", yang memungkinkan Anda memanggil Copilot dengan satu klik atau perintah. Dari sana, Anda dapat memantau agen yang dapat menjalankan tugas di latar belakang, layaknya mengelola aplikasi biasa.

Microsoft juga tidak berpura-pura bahwa teknologinya aman atau sempurna. Dokumentasi resminya memperingatkan bahwa agen AI "memiliki keterbatasan fungsional dalam cara mereka berperilaku dan terkadang dapat berhalusinasi, sehingga menciptakan hasil yang tidak diinginkan."

Bilah tugas setelah mengintegrasikan agen AI.

Salah satu risiko terbesar yang disebutkan adalah Cross Prompt Injection (XPIA). Dalam hal ini, agen AI tertipu oleh konten berbahaya yang tertanam dalam komponen antarmuka pengguna (UI), dokumen, atau aplikasi. Konten ini dapat mengabaikan instruksi awal dan memaksa chatbot melakukan tindakan berbahaya seperti menyalin berkas sensitif atau membocorkan data.

Para peneliti keamanan telah memperingatkan bahwa agen AI berbasis GUI sangat rentan terhadap serangan tidak langsung semacam ini, karena mereka seringkali memiliki hak istimewa yang sangat tinggi. Meskipun Microsoft telah transparan tentang risikonya, Copilot baru-baru ini dikritik karena masalah privasi dan kemungkinan besar tidak akan segera diadopsi.

Microsoft mengklaim bahwa agen-agen tersebut berjalan di bawah akun terpisah, dengan izin terbatas, dan log anti-perusakan. Namun, mereka tetap memiliki akses baca dan tulis ke beberapa lokasi paling pribadi di PC Anda, seperti Dokumen, Unduhan, Desktop, Video, Gambar, dan Musik.

Ambisi untuk mengganti semua tugas dengan AI

Agent Workspace adalah tulang punggung visi Microsoft untuk OS Agentik. Windows 11 kini dapat membuat sesi terpisah untuk agen ini, yang menjanjikan kemampuan untuk menjalankan fungsi-fungsi seperti mengedit berkas dan memindahkan dokumen tanpa memerlukan pengguna.

Setiap agen akan memiliki akun standarnya sendiri di PC, yang mirip dengan lingkungan Windows paralel tetapi tidak secara langsung memengaruhi sesi kerja utama. Di dalamnya, chatbot berinteraksi dengan aplikasi layaknya manusia, seperti mengklik tombol antarmuka, memasukkan teks, menggulir jendela, menyeret dan melepaskan berkas, dan melakukan tugas-tugas multi-langkah.

Cara mengaktifkan fitur terkait AI pada Windows 11.

Ruang Kerja Agen bertanggung jawab untuk menentukan apa yang ditampilkan kepada agen. Microsoft juga menggunakan Daftar Kontrol Akses untuk mencegah akun melampaui wewenangnya. Untuk mengaktifkan fitur-fitur ini, pengguna perlu mengaktifkan Fitur Agen Eksperimental, yang dinonaktifkan secara default.

Bagi Microsoft, mengintegrasikan AI ke dalam PC merupakan langkah yang tak terelakkan dalam menghadapi persaingan yang ketat. Apple juga tengah mengembangkan Apple Intelligence, terutama ketika berencana menggunakan versi Gemini yang dikustomisasi. Google juga berencana memasuki pasar PC dengan Aluminium OS.

Meskipun MacBook murah Apple yang akan datang, dengan versi lengkap Apple Intelligence, telah banyak dibahas, Windows 11 dikritik karena terasa kikuk dan memproses tugas lebih lambat. Fitur AI Microsoft sebelumnya, Recall, telah menuai kritik karena keamanannya yang buruk.

Sistem operasi "Agen" mungkin tak terelakkan bagi semua vendor. Namun, menurut Window Latest, yang terpenting adalah implementasinya, dan Microsoft perlu mendapatkan kembali kepercayaan pengguna terhadap teknologi AI mereka.

Sumber: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html