Milyarder Elon Musk'ın yapay zeka sohbet robotu, Hitler'i övdüğü için tartışma yarattı

The Guardian'ın haberine göre, chatbot son zamanlarda verdiği bazı yanıtlarında, Yahudi toplumunda yaygın bir soyadına sahip bir birey hakkında, toplum standartlarıyla uyuşmayan ve saldırgan olarak değerlendirilen bir dil kullanarak tartışmalı yorumlarda bulundu.

Hatta bazı yorumlarda olumsuz çağrışımlar vardı ; kendisine "MechaHitler" (Nazi lideri ile bir robotun birleşimi) diyordu.

Yukarıdaki ifadeler, çevrimiçi toplulukta kısa sürede bir protesto dalgasına neden oldu ve özellikle X gibi çok sayıda kullanıcıya sahip bir platforma entegre edildiğinde, yapay zeka modelleri üzerindeki kontrol düzeyi hakkında soruları gündeme getirdi.

Kullanıcı geri bildirimlerinin ardından xAI, paylaşımları sildi ve sistemini ayarladığını doğruladı. Bir şirket temsilcisi, "Grok'un son paylaşımlarının farkındayız ve uygunsuz içerikleri aktif olarak kaldırıyoruz. Olayın keşfedilmesinden bu yana xAI, Grok'un X'te nefret söyleminde bulunmasını önlemek için kontroller uyguladı," dedi.

Ayrıca xAI'ye göre Grok modeli "gerçeği bulma" amacıyla eğitildi ve şirket eğitim sürecini iyileştirmek için topluluktan gelen geri bildirimlere güveniyor.

Ancak Grok sohbet robotunun tartışmalara yol açması ilk kez olmuyor. Haziran ayında araç, "Güney Afrika soykırımı" ifadesini defalarca kullanmıştı.

The Verge'e göre , Grok'un operasyonlarında yapılan son değişiklikler dolaylı olarak olaya yol açmış olabilir. Kaynak kod barındırma platformu GitHub'da yapılan bir güncellemede, geliştirme şirketi, sohbet robotunun algoritmasını "önyargılı bilgilerin tekrarlanmasını önlemek" ve "daha bağımsız yanıtları teşvik etmek" için ayarladı.

xAI'nin kurucusu ve X'in sahibi milyarder Elon Musk, bir zamanlar platformda Grok'un önemli ölçüde geliştiğini ve "daha esnek tepki verebildiğini" paylaşmıştı. Ancak gerçek hayattaki olaylar, yapay zeka dil modellerinin, özellikle de doğru denetim katmanı olmadan, hâlâ hata yapabileceğini gösteriyor.

Grok, şu anda dünya çapında milyonlarca kullanıcı tarafından kullanılıyor ve yapay zekayı sosyal ağlar, arama motorları ve diğer kullanıcı etkileşim hizmetleriyle entegre eden uygulamalar geliştirme hedefinin bir parçası.

Kaynak: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html