Microsoft mengeluarkan peringatan karena AI pada Windows 11 terlalu kuat.

Microsoft sedang dalam proses mengembangkan Windows 11, dengan rencana untuk mengubahnya menjadi 'sistem operasi berbasis agen' di masa mendatang. Namun, perusahaan telah mengeluarkan peringatan tentang potensi risiko yang terkait dengan fitur baru ini.

Sebelum meluncurkan fitur eksperimental kepada pengguna Windows Insider, Microsoft menyarankan pengguna Windows 11 untuk hanya mengaktifkan fitur-fitur ini jika mereka sepenuhnya memahami implikasi keamanannya.

Menurut BGR , Microsoft telah mengkonfirmasi bahwa komponen agen AI (kecerdasan buatan) akan dinonaktifkan secara default karena fitur ini dapat menimbulkan risiko serangan injeksi lintas prompt (XPIA).

Serangan ini terjadi ketika aplikasi AI diberikan akses ke file pengguna, yang berpotensi menyebabkan kebocoran data atau instalasi malware. Akun agen, yang diberikan saat fitur agen AI diaktifkan, akan memiliki akses terbatas ke folder profil pengguna, tetapi tetap berpotensi menyebabkan konsekuensi yang tidak diinginkan.

Disebut Agent Workspace, komponen agen AI eksperimental ini sekarang tersedia dalam pratinjau pengembang dan akan segera diluncurkan ke lebih banyak pengguna.

Meskipun saat ini belum ada aplikasi yang mendukung fitur ini, Copilot akan segera memiliki akses ke Agent Workspace. Namun, hal ini juga menimbulkan kekhawatiran tentang privasi, karena Copilot dapat melihat seluruh layar pengguna.

Microsoft menganggap beberapa komponen Agent Workspace sangat berbahaya, sehingga komponen tersebut dinonaktifkan secara default.

Microsoft menekankan bahwa keamanan bukanlah fitur sementara, melainkan komitmen berkelanjutan yang akan disesuaikan dari waktu ke waktu. Agent Workspace dirancang untuk memungkinkan aplikasi AI mengakses file di latar belakang, sementara pengguna tetap dapat menggunakan perangkat mereka.

Namun, pengguna masih dapat mengelola izin akses dan menghentikan agen jika diperlukan. Saat ini, banyak orang masih mengungkapkan kekhawatiran dan ketidaksepakatan tentang fitur baru ini di forum online.

Meskipun demikian, Microsoft percaya bahwa seiring semakin banyak pengguna yang mendapatkan akses ke fitur agen AI eksperimental, mereka akan memiliki lebih banyak informasi tentang cara kerjanya dan seberapa amannya fitur tersebut.