Microsoft mengambil risiko

Meskipun transparan mengenai risiko yang ditimbulkan oleh AI yang diintegrasikan ke dalam Windows 11, Microsoft masih perlu membangun kepercayaan terhadap implementasinya dibandingkan dengan para pesaingnya.

Layar Windows 11 meminta izin untuk menggunakan agen AI. Gambar: Windows Terbaru .

Selama beberapa minggu terakhir, Microsoft telah mencoba mengintegrasikan agen AI ke dalam Windows. Namun, bahkan dalam dokumentasinya sendiri, perusahaan mengakui bahwa teknologi ini rentan terhadap "halusinasi," berperilaku tidak terduga, dan dapat tertipu oleh jenis serangan yang tidak ada setahun yang lalu.

Pada pertengahan Oktober, Microsoft mengumumkan bahwa mereka "mengubah setiap PC Windows 11 menjadi PC berbasis AI." Perusahaan tersebut meluncurkan serangkaian integrasi AI baru yang dirancang untuk memungkinkan "percakapan," yang memungkinkan komputer untuk melihat apa yang ada di layar dan bertindak atas namanya.

Integrasi meskipun ada risiko.

Langkah terbaru ini bertujuan untuk mengubah taskbar Windows 11 menjadi pusat AI. Kotak pencarian Windows 11 digantikan dengan antarmuka "Tanya Copilot", yang memungkinkan pengguna mengakses Copilot hanya dengan satu klik atau perintah. Hal ini memungkinkan pengguna untuk memantau agen mana yang menjalankan tugas latar belakang, mirip dengan mengelola aplikasi biasa.

Microsoft juga tidak berpura-pura bahwa teknologi ini aman atau bebas kesalahan. Dokumentasi resmi perusahaan memperingatkan bahwa agen AI "memiliki keterbatasan fungsional dalam cara mereka berperilaku dan terkadang dapat berhalusinasi, menghasilkan hasil yang tidak terduga."

Tampilan taskbar setelah mengintegrasikan agen AI.

Salah satu risiko terbesar yang disebutkan adalah Cross Prompt Injection (XPIA). Dalam hal ini, agen AI diperdaya oleh konten berbahaya yang tertanam dalam komponen antarmuka pengguna (UI), dokumen, atau aplikasi. Konten ini dapat menimpa instruksi asli dan memaksa chatbot untuk melakukan tindakan berbahaya seperti menyalin file sensitif atau membocorkan data.

Para peneliti keamanan telah memperingatkan bahwa agen AI berbasis antarmuka grafis sangat rentan terhadap jenis serangan tidak langsung ini, karena mereka sering diberikan hak akses yang sangat tinggi. Meskipun Microsoft telah transparan tentang risikonya, Copilot baru-baru ini menghadapi kritik keras terkait privasi dan kemungkinan besar tidak akan langsung diterima.

Microsoft mengklaim bahwa agen-agen tersebut akan berjalan di bawah akun terpisah dengan hak akses terbatas dan log anti-pengeditan. Namun, mereka tetap akan memiliki akses baca dan tulis ke beberapa lokasi paling pribadi di PC, seperti Dokumen, Unduhan, Desktop, Video, Gambar, dan Musik.

Ambisinya adalah agar AI menggantikan semua tugas.

Agent Workspace adalah tulang punggung visi Microsoft untuk Agentic OS (sistem operasi yang didukung oleh agen AI). Windows 11 kini dapat membuat sesi terpisah untuk agen-agen ini, menjanjikan untuk melakukan fungsi-fungsi seperti pengeditan file dan pemindahan dokumen tanpa intervensi pengguna.

Setiap agen akan memiliki akun standarnya sendiri di PC, pada dasarnya berada di lingkungan Windows paralel tetapi tanpa secara langsung memengaruhi sesi utama. Di dalamnya, chatbot berinteraksi dengan aplikasi seperti manusia, seperti mengklik tombol antarmuka, mengetik teks, menggulir jendela, menyeret dan menjatuhkan file, dan melakukan tugas multi-langkah.

Cara mengaktifkan fitur terkait AI di Windows 11.

Agent Workspace bertanggung jawab untuk menentukan apa yang akan ditampilkan kepada agen. Microsoft juga menggunakan Access Control Lists (ACLS) untuk mencegah akun melampaui hak aksesnya. Untuk mengaktifkan fitur-fitur ini, pengguna perlu mengaktifkan Experimental Agentic Features (Fitur Agen Eksperimental), yang dinonaktifkan secara default.

Bagi Microsoft, mengintegrasikan AI ke dalam PC merupakan langkah yang tak dapat diubah dalam menghadapi persaingan yang ketat. Apple juga bekerja keras untuk mengembangkan Apple Intelligence, terutama karena berencana menggunakan versi Gemini yang disesuaikan. Google juga berencana memasuki pasar PC dengan Aluminium OS.

Meskipun MacBook murah terbaru dari Apple, dengan rangkaian Apple Intelligence lengkapnya, sedang banyak dibicarakan, Windows 11 telah dikritik karena sifatnya yang rumit dan kecepatan pemrosesannya yang lebih lambat. Fitur AI Microsoft sebelumnya, Recall, juga menghadapi reaksi negatif karena keamanannya yang buruk.

Sistem operasi "agen" mungkin tak terhindarkan bagi semua vendor. Namun, menurut Windows Latest, kuncinya terletak pada implementasi, dan Microsoft perlu mendapatkan kembali kepercayaan pengguna terhadap teknologi AI-nya.

Sumber: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html