Microsoft mengeluarkan amaran kerana AI pada Windows 11 terlalu 'kuat'

Microsoft sedang dalam proses membangunkan Windows 11, dengan rancangan untuk mengalihkannya kepada 'OS yang agresif' pada masa hadapan. Walau bagaimanapun, syarikat telah mengeluarkan amaran tentang potensi risiko yang dikaitkan dengan ciri baharu ini.

Sebelum melancarkan ciri percubaan kepada Windows Insiders, Microsoft mengesyorkan bahawa pengguna Windows 11 hanya mendayakan ciri ini jika mereka memahami implikasi keselamatan.

Menurut BGR , Microsoft mengesahkan bahawa komponen ejen AI (kecerdasan buatan) akan dilumpuhkan secara lalai kerana ciri ini boleh menyebabkan risiko serangan suntikan segera (XPIA).

Serangan ini berlaku apabila aplikasi AI diberikan akses kepada fail pengguna, yang boleh menyebabkan kebocoran data atau pemasangan perisian hasad. Akaun ejen, yang diberikan apabila ciri ejen AI didayakan, mempunyai akses terhad kepada folder profil pengguna, tetapi masih berpotensi menyebabkan akibat yang tidak diingini.

Dipanggil Agent Workspace, komponen ejen AI percubaan kini tersedia dalam pratonton pembangun dan tidak lama lagi akan dilancarkan kepada lebih ramai pengguna.

Walaupun tiada apl menyokong ciri ini lagi, Copilot akan mempunyai akses kepada Ruang Kerja Agen tidak lama lagi. Walau bagaimanapun, ini juga menimbulkan kebimbangan privasi, kerana Copilot boleh melihat keseluruhan skrin pengguna.

Komponen Ruang Kerja Agen dianggap berbahaya oleh Microsoft dan dilumpuhkan secara lalai.

Microsoft menekankan bahawa keselamatan bukanlah ciri sementara, tetapi komitmen berterusan yang akan diperhalusi dari semasa ke semasa. Ruang Kerja Agen direka bentuk untuk membolehkan aplikasi AI mengakses fail di latar belakang, sementara pengguna terus menggunakan peranti mereka.

Walau bagaimanapun, pengguna masih boleh mengurus akses dan menghentikan ejen apabila perlu. Pada masa ini, ramai orang masih menyatakan kebimbangan dan percanggahan pendapat tentang ciri baharu ini di forum dalam talian.

Namun, Microsoft percaya bahawa apabila lebih ramai pengguna mendapat akses kepada ciri ejen AI percubaan, mereka akan mempunyai lebih banyak maklumat tentang cara mereka berfungsi dan sejauh mana keselamatan mereka.