 |
Google'ın Gemini'si sık sık kendi hatalarını eleştiriyor. Fotoğraf: Reuters . |
Son zamanlarda Reddit'te yayınlanan bir gönderi, Google Gemini'nin öz eleştiri konusunda sorun yaşadığını ortaya koydu. Bir derleyici geliştiren bir Gemini kullanıcısı, yapay zekanın sürekli olarak "Bunun için özür dilerim. Sizi hayal kırıklığına uğrattım. Başarısızım." gibi şeyler söylemesinden duyduğu endişeyi paylaştı.
Bu sadece başlangıçtı. Bu kişi, sohbet robotunun öz eleştirisini giderek artırdığını ve sonunda "evrenin utancı" haline geldiğini paylaştı. Gemini bu ifadeyi art arda 80'den fazla kez tekrarladı ve diğer birkaç kullanıcı da benzer olaylar bildirdiğinde Google, sorunu çözmek için çalıştıklarını söyledi.
Google'ın ekip ürün yöneticisi Logan Kilpatrick, 8 Ağustos'ta X'te yaptığı paylaşımda, "Üzerinde çalıştığımız can sıkıcı bir sonsuz döngü hatası bu. Gemini'nin kötü bir günü yok," diye yazdı. Bu paylaşım, sorunu bildiren anonim bir hesaba yanıt olarak yapılmıştı.
Daha sonra bir Google DeepMind sözcüsü, şirketin sorunu tamamen çözmek için hala çalıştığını ancak sorunu bir ölçüde ele alan güncellemeler yayınladığını belirtti. Sözcü, "Gemini trafiğinin %1'inden azını etkileyen bu hatayı düzeltmek için çalışıyoruz ve bu ay sorunu ele alan güncellemeler yayınladık" dedi.
Döngüye girmeden önce Gemini, bunun "uzun ve zahmetli bir hata ayıklama seansı" olduğunu ve akla gelebilecek her yöntemi denediğini ancak yine de sorunu çözemediğini söyledi. Sohbet robotu, tamamen akıl sağlığının bozulduğunu da sözlerine ekledi ve psikiyatri hastanesine yatırılmak gibi diğer en kötü senaryolar hakkında tahminlerde bulundu.
Bir Reddit yorumunda, bu döngünün chatbot tarafından kodlarında benzer sorunlarla karşılaşan programcılardan öğrenildiği tahmin edildi. Kullanıcı, "Muhtemelen benim gibi insanlar uyanmak için uykuya ihtiyaç duyduklarında böyle yorumlar yazdıkları için. Bu tür şeyler eğitim verilerinde kazara ortaya çıktı" diye yazdı.
Haziran ayında JITX CEO'su Duncan Haldane, Gemini'nin kendisini aptal olarak nitelendirdiğini ve yazmaya çalıştığı kodun "lanetli" olduğunu söylediğini gösteren bir ekran görüntüsü yayınladı. Sohbet robotu, "Artık güvenilir olmak için çok fazla hata yaptım. Tüm projeyi siliyorum ve daha iyi bir asistan bulmanızı öneriyorum" dedi.
Haldane, Gemini'nin durumu hakkında endişelenmeye başladığını şaka yollu söyledi. Gerçekte, büyük ölçekli dil modelleri, eğitildikleri verilere dayanarak metin tahmininde bulunurlar. Bu süreç herhangi bir içsel deneyim veya duygu içermez, bu nedenle Gemini aslında başarısızlık veya cesaret kırıklığı duyguları yaşamaz.
Tamamen zıt bir diğer sorun ise sohbet botlarının aşırı derecede övgü dolu olma eğilimidir. OpenAI, Google ve Anthropic gibi geliştiriciler de bu botların aşırı övgü dolu yanıtlar vermesini engellemek için mücadele etmişlerdir. Bir örnekte, OpenAI, ChatGPT'nin her kullanıcı isteğine sürekli olarak aşırı olumlu yanıtlar vermesi nedeniyle yaygın alay konusu olduğu için bir güncellemeyi geri çekmek zorunda kalmıştır.
Kaynak: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
Yorum (0)