Microsoft, Windows 11'deki yapay zekanın çok 'güçlü' olması nedeniyle uyarıda bulundu

Microsoft, yapay zekanın gücü sayesinde Windows 11'in gelecekte 'agresif bir işletim sistemine' dönüşme sürecinde olduğuna inanıyor.

Microsoft, Windows 11'i geliştirme sürecinde ve gelecekte onu "agresif bir işletim sistemine" dönüştürmeyi planlıyor. Ancak şirket, bu yeni özellikle ilişkili potansiyel riskler konusunda bir uyarı yayınladı.

Microsoft, Windows Insider'lara deneysel özellikleri sunmadan önce, Windows 11 kullanıcılarının bu özellikleri yalnızca güvenlik etkilerini anladıkları takdirde etkinleştirmelerini öneriyor.

Kullanıcıların AI aracı bileşenlerine erişim izni verirken dikkatli olmaları önerilir.

BGR'ye göre Microsoft, AI (yapay zeka) aracı bileşenlerinin varsayılan olarak devre dışı bırakılacağını doğruladı çünkü bu özellik çapraz komut enjeksiyonu (XPIA) saldırı risklerine yol açabilir.

Bu saldırı, yapay zeka uygulamalarına kullanıcı dosyalarına erişim izni verildiğinde gerçekleşir ve bu da veri sızıntılarına veya kötü amaçlı yazılım yüklemelerine yol açabilir. Yapay zeka aracı özellikleri etkinleştirildiğinde verilen aracı hesapları, kullanıcının profil klasörüne sınırlı erişime sahiptir, ancak yine de istenmeyen sonuçlara neden olma potansiyeline sahiptir.

Agent Workspace adı verilen deneysel AI ajan bileşenleri artık geliştirici önizlemesinde mevcut ve yakında daha fazla kullanıcıya sunulacak.

Henüz hiçbir uygulama bu özelliği desteklemese de, Copilot yakında Agent Workspace'e erişebilecek. Ancak bu durum, Copilot'un kullanıcının tüm ekranını görebilmesi nedeniyle gizlilik endişelerini de beraberinde getiriyor.

Agent Workspace bileşenleri Microsoft tarafından tehlikeli kabul edilir ve varsayılan olarak devre dışıdır.

Microsoft, güvenliğin geçici bir özellik değil, zamanla geliştirilecek sürekli bir taahhüt olduğunu vurguluyor. Agent Workspace, kullanıcılar cihazlarını kullanmaya devam ederken yapay zeka uygulamalarının arka planda dosyalara erişmesine olanak sağlamak için tasarlanmıştır.

Ancak kullanıcılar erişimi yönetebilir ve gerektiğinde aracı durdurabilirler. Şu anda birçok kişi çevrimiçi forumlarda bu yeni özellik hakkındaki endişelerini ve itirazlarını dile getiriyor.

Yine de Microsoft, daha fazla kullanıcının deneysel AI aracı özelliklerine erişimi arttıkça, bunların nasıl çalıştığı ve ne kadar güvenli oldukları hakkında daha fazla bilgiye sahip olacaklarına inanıyor.

Microsoft, Agent 365'te yapay zeka özelliklerini tanıttı.

Kaynak: https://khoahocdoisong.vn/microsoft-phat-canh-bao-vi-ai-tren-windows-11-qua-ba-dao-post2149073216.html