Microsoft risk alıyor

Microsoft, Windows 11'e entegre edilen yapay zeka ajanlarının oluşturduğu riskler konusunda şeffaf olsa da, rakiplerine kıyasla uygulamasına güven duyulması gerekiyor.

Yapay zeka aracısını kullanma izni isteyen Windows 11 ekranı. Fotoğraf: Windows Latest .

Microsoft, son birkaç haftadır yapay zeka ajanlarını Windows'a entegre etmek için çalışıyor. Ancak şirketin kendi belgeleri bile, teknolojinin "halüsinasyon görebileceğini", öngörülemeyen davranışlar sergileyebileceğini ve hatta bir yıl önce var olmayan saldırılarla kandırılabileceğini kabul ediyor.

Microsoft, ekim ayının ortasında "her Windows 11 bilgisayarını bir yapay zeka bilgisayarına dönüştürdüğünü" duyurdu. Şirket, bilgisayarın ekranda ne olduğunu görmesini ve kendi adına hareket etmesini sağlayacak "konuşmaları" mümkün kılacak bir dizi yeni yapay zeka entegrasyonu başlattı.

Kendi riskinizle entegre edin

Son hamleler, Windows 11 görev çubuğunu bir yapay zeka merkezine dönüştürmeyi amaçlıyor. Windows 11 arama kutusu, tek bir tıklama veya komutla Copilot'u çağırmanıza olanak tanıyan bir "Ask Copilot" arayüzüyle değiştiriliyor. Buradan, tıpkı normal uygulamaları yönettiğiniz gibi, arka planda görev çalıştırabilen aracıları izleyebilirsiniz.

Microsoft ayrıca teknolojinin güvenli veya hatasız olduğunu iddia etmiyor. Resmi belgeleri, yapay zeka ajanlarının "davranışlarında işlevsel sınırlamalar olduğunu ve bazen halüsinasyon görerek istenmeyen sonuçlar doğurabileceğini" belirtiyor.

AI aracısını entegre ettikten sonra görev çubuğu.

Bahsedilen en büyük risklerden biri Çapraz Komut Enjeksiyonu'dur (XPIA). XPIA'da, bir yapay zeka aracısı, kullanıcı arayüzü (UI) bileşenlerine, belgelere veya uygulamalara yerleştirilmiş kötü amaçlı içerikle kandırılır. Bu içerik, orijinal talimatları geçersiz kılabilir ve sohbet robotunu hassas dosyaları kopyalamak veya veri sızdırmak gibi zararlı eylemler gerçekleştirmeye zorlayabilir.

Güvenlik araştırmacıları, GUI tabanlı yapay zeka ajanlarının genellikle çok yüksek ayrıcalıklara sahip olmaları nedeniyle bu tür dolaylı saldırılara karşı özellikle savunmasız oldukları konusunda uyardılar. Microsoft riskler konusunda şeffaf davransa da, Copilot son zamanlarda gizlilik endişeleri nedeniyle eleştirilerin hedefi oldu ve hemen benimsenmesi pek olası değil.

Microsoft, bu araçların ayrı hesaplar altında, sınırlı izinlerle ve kurcalamaya karşı koruma günlükleriyle çalıştığını iddia ediyor. Ancak, yine de bilgisayarınızdaki Belgeler, İndirilenler, Masaüstü, Videolar, Resimler ve Müzik gibi en gizli konumlardan bazılarına okuma ve yazma erişimi sağlayabiliyorlar.

Tüm görevleri yapay zeka ile değiştirme hırsı

Agent Workspace, Microsoft'un Agentic OS vizyonunun omurgasını oluşturuyor. Windows 11 artık bu aracı için ayrı oturumlar oluşturabiliyor ve dosya düzenleme ve belge taşıma gibi işlevleri bir kullanıcıya ihtiyaç duymadan gerçekleştirebiliyor.

Her temsilcinin bilgisayarda kendi standart hesabı olacak. Bu hesap, paralel bir Windows ortamı gibi çalışacak, ancak ana çalışma oturumunu doğrudan etkilemeyecek. Chatbot, bu hesapta arayüz düğmelerine tıklama, metin girme, pencereler arasında gezinme, dosyaları sürükleyip bırakma ve çok adımlı görevleri gerçekleştirme gibi uygulamalarla tıpkı bir insan gibi etkileşim kuracak.

Windows 11'de yapay zeka ile ilgili özellikler nasıl etkinleştirilir.

Aracı Çalışma Alanı, aracılara neyin görüntüleneceğine karar vermekten sorumludur. Microsoft ayrıca, hesapların yetkilerini aşmasını önlemek için Erişim Kontrol Listeleri kullanır. Bu özelliklerden herhangi birini etkinleştirmek için kullanıcıların varsayılan olarak devre dışı olan Deneysel Aracı Özellikleri'ni etkinleştirmeleri gerekir.

Microsoft için yapay zekayı bilgisayarlara entegre etmek, yoğun rekabet ortamında geri alınamayacak bir adım. Apple da, özellikle Gemini'nin özelleştirilmiş bir sürümünü kullanmayı planladığı için Apple Intelligence'ı geliştirmek için yoğun bir şekilde çalışıyor. Google da Alüminyum İşletim Sistemi ile bilgisayar pazarına girmeyi planlıyor.

Apple'ın, Apple Intelligence'ın tam sürümüne sahip, uygun fiyatlı MacBook'u büyük ilgi görürken, Windows 11'in hantal olduğu ve görevleri daha yavaş işlediği eleştirileri de beraberinde getirdi. Microsoft'un önceki yapay zeka özelliği Recall ise zayıf güvenliği nedeniyle tepki çekmişti.

"Aracı" işletim sistemleri muhtemelen tüm tedarikçiler için kaçınılmazdır. Ancak Window Latest'e göre, önemli olan uygulamadır ve Microsoft'un yapay zeka teknolojisine olan kullanıcı güvenini yeniden kazanması gerekecektir.

Kaynak: https://znews.vn/microsoft-bat-chap-rui-ro-post1607379.html