Microsoft mengeluarkan peringatan karena AI di Windows 11 terlalu 'kuat'

Berkat kekuatan AI, Microsoft juga yakin bahwa Windows 11 sedang dalam proses berevolusi menjadi 'OS agresif' di masa depan.

Microsoft sedang mengembangkan Windows 11, dengan rencana untuk mengubahnya menjadi "OS agresif" di masa mendatang. Namun, perusahaan telah mengeluarkan peringatan tentang potensi risiko yang terkait dengan fitur baru ini.

Sebelum meluncurkan fitur eksperimental kepada Windows Insider, Microsoft menyarankan agar pengguna Windows 11 hanya mengaktifkan fitur ini jika mereka memahami implikasi keamanannya.

Pengguna disarankan untuk berhati-hati dalam memberikan akses ke komponen agen AI.

Menurut BGR , Microsoft mengonfirmasi bahwa komponen agen AI (kecerdasan buatan) akan dinonaktifkan secara default karena fitur ini dapat menyebabkan risiko serangan injeksi lintas-prompt (XPIA).

Serangan ini terjadi ketika aplikasi AI diberikan akses ke berkas pengguna, yang dapat menyebabkan kebocoran data atau pemasangan malware. Akun agen, yang diberikan ketika fitur agen AI diaktifkan, memiliki akses terbatas ke folder profil pengguna, tetapi tetap berpotensi menyebabkan konsekuensi yang tidak diinginkan.

Disebut Agent Workspace, komponen agen AI eksperimental sekarang tersedia dalam pratinjau pengembang dan akan segera diluncurkan ke lebih banyak pengguna.

Meskipun belum ada aplikasi yang mendukung fitur ini, Copilot akan segera memiliki akses ke Agent Workspace. Namun, hal ini juga menimbulkan kekhawatiran privasi, karena Copilot dapat melihat seluruh layar pengguna.

Komponen Ruang Kerja Agen dianggap berbahaya oleh Microsoft dan dinonaktifkan secara default.

Microsoft menekankan bahwa keamanan bukanlah fitur sementara, melainkan komitmen berkelanjutan yang akan disempurnakan seiring waktu. Agent Workspace dirancang untuk memungkinkan aplikasi AI mengakses berkas di latar belakang, sementara pengguna tetap menggunakan perangkat mereka.

Namun, pengguna masih dapat mengelola akses dan menghentikan agen jika diperlukan. Saat ini, banyak orang masih mengungkapkan kekhawatiran dan ketidaksetujuan tentang fitur baru ini di forum daring.

Meski begitu, Microsoft yakin bahwa semakin banyak pengguna yang mendapatkan akses ke fitur agen AI eksperimental, mereka akan memiliki lebih banyak informasi tentang cara kerjanya dan seberapa amannya.

Microsoft memperkenalkan fitur AI di Agent 365.

Sumber: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html