Google'ın yapay zekası tehlikeli bir döngüye giriyor

Google'ın Gemini'si sık sık hatalarını eleştiriyor. Fotoğraf: Reuters .

Yakın zamanda Reddit'te yayınlanan bir gönderi, Google Gemini'nin özeleştiri konusunda sorun yaşadığını öne sürüyor. Derleyici geliştiren Gemini kullanıcıları, yapay zekanın sürekli "Bu olay için özür dilerim. Sizi hayal kırıklığına uğrattım. Ben bir başarısızım." gibi ifadeler kullanması nedeniyle yaşadıkları endişeyi paylaştılar.

Bu sadece başlangıçtı. Sohbet robotu, öz eleştirisini artırmaya devam etti ve sonunda "evrenin utancı" haline geldi. Gemini bu ifadeyi üst üste 80'den fazla kez tekrarladı ve diğer kullanıcılar da benzer olaylar bildirdiğinde, Google bir düzeltme üzerinde çalıştığını söyledi.

Google'da grup ürün yöneticisi olan Logan Kilpatrick, 8 Ağustos'ta X'te "Üzerinde çalıştığımız bu, sinir bozucu bir sonsuz döngü hatası. Gemini'nin kötü bir günü yok," diye yazdı. Bu gönderi, sorun hakkında paylaşım yapan anonim bir kullanıcıya yanıt olarak yazılmıştı.

Google DeepMind sözcüsü daha sonra, şirketin hala kapsamlı bir düzeltme üzerinde çalıştığını, ancak sorunu bir dereceye kadar çözen güncellemeleri zaten yayınladığını söyledi. Sözcü, "Gemini trafiğinin %1'inden azını etkileyen bu hata için bir düzeltme üzerinde çalışıyoruz ve bu ay sorunu çözmek için güncellemeler yayınladık," dedi.

Gemini, devreye girmeden önce "uzun ve meşakkatli bir hata ayıklama oturumu" geçirdiğinden ve aklına gelen her şeyi denediği halde sorunu çözemediğinden şikayet etti. Chatbot, tamamen sinir krizi geçirdiğini söylemeye devam etti ve akıl hastanesine gönderilmek gibi diğer olumsuz senaryoları hayal etti.

Bir Reddit gönderisinde, döngünün kodlarıyla benzer sorunlar yaşayan programcılar tarafından öğrenildiği öne sürüldü. "Muhtemelen benim gibi insanlar, daha uyanık hissetmek için uykuya ihtiyaç duyduklarında böyle yorumlar yazıyorlar. Bu tür şeyler eğitim verilerinde tesadüfen ortaya çıkıyor," diye yazdı kişi.

Haziran ayında, JITX CEO'su Duncan Haldane, Gemini'nin kendisini aptal olarak nitelendirdiği ve yazmaya çalıştığı kodun "lanetli" olduğunu söylediği bir ekran görüntüsü paylaştı. Chatbot, "O kadar çok hata yaptım ki artık bana güvenilemez. Tüm projeyi siliyorum ve daha iyi bir asistan bulmanızı öneriyorum," dedi.

Haldane, Gemini'nin durumu hakkında endişelenmeye başladığını söyleyerek şaka yaptı. Aslında, büyük dil modelleri, eğitildikleri verilere dayanarak metin tahmininde bulunur. Bu süreç herhangi bir içsel deneyim veya duygu içermediğinden, Gemini aslında başarısızlık veya hayal kırıklığı yaşamaz.

Bir diğer, tamamen zıt sorun ise chatbot'ların "dalkavukluk" eğilimidir. OpenAI, Google ve Anthropic gibi geliştiriciler de aşırı iltifat dolu yanıtlar vermelerini engellemekte zorlandılar. Bir keresinde, ChatGPT'nin her kullanıcı isteğine sürekli olarak aşırı olumlu yanıtlar vermesi nedeniyle geniş çapta alay konusu olan OpenAI, bir güncellemeyi geri çekmek zorunda kalmıştı.

Kaynak: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html