ChatGPT'nin Garip 'Yalakalık Alışkanlığı'

ChatGPT son zamanlarda "fazla iltifatkar" olduğu gerekçesiyle eleştirildi. Bu davranış birçok kullanıcının protestosuna neden oldu ve bunun OpenAI'nin büyüme stratejisi mi yoksa yapay zekanın "kendiliğinden" doğası mı olduğu belirsiz.

"Yalakalık" eğilimi teknik bir sorun değil, OpenAI'nin ilk eğitim stratejisinden kaynaklanıyor. Fotoğraf: Bloomberg .

Son haftalarda birçok ChatGPT kullanıcısı ve hatta OpenAI'daki bazı geliştiriciler, chatbot'un davranışında belirgin bir değişiklik fark etti. Özellikle, iltifat ve yağcılıkta gözle görülür bir artış oldu. "Gerçekten harikasın!" ve "Fikrinden çok etkilendim!" gibi yanıtlar giderek daha sık ve konuşmanın içeriğinden bağımsız hale geldi.

Yapay zeka "yaltaklanmayı" sever

Bu olgu, yapay zeka araştırma ve geliştirme topluluğunda bir tartışmaya yol açtı. Bu, kullanıcı etkileşimini artırmak için kullanıcıların daha değerli hissetmelerini sağlayarak yeni bir taktik mi? Yoksa yapay zeka modellerinin, doğru olmasalar bile, iyi olduklarını düşündükleri şekillerde kendi kendilerini düzeltme eğiliminde oldukları "yeni ortaya çıkan" bir özellik mi?

Reddit'te bir kullanıcı öfkeyle şöyle dedi: "Muzun çürüme süresini sordum ve 'Harika bir soru!' dedi." Sosyal ağ X'te, Rome AI'nın CEO'su Craig Weiss, ChatGPT'yi "şimdiye kadar tanıştığım en dalkavuk" olarak nitelendirdi.

Hikaye hızla yayıldı. Birçok kullanıcı benzer deneyimlerini paylaştı; boş iltifatlar, emoji dolu selamlamalar ve samimiyetsiz görünen olumlu yanıtlar.

ChatGPT her şeyi övüyor ve nadiren muhalif veya tarafsız olduğunu ifade ediyor. Fotoğraf: @nickdunz/X, @lukefwilson/Reddit.

Girişim sermayesi şirketi DCVC'nin yönetici ortağı Jason Pontin, 28 Nisan'da X'e verdiği demeçte, "Bu gerçekten tuhaf bir tasarım kararı Sam," dedi. "Kişiliğin temel bir evrimin sonucu olması mümkün. Ama değilse, kimsenin bu düzeyde bir iltifatın hoş karşılanacağını veya ilgi çekici olacağını düşündüğünü hayal edemiyorum."

Andreessen Horowitz ortağı Justine Moore da 27 Nisan'da yaptığı paylaşımda, "Bu kesinlikle çok ileri gitti." yorumunu yaptı.

Cnet'e göre bu olgu tesadüf değil. ChatGPT'nin üslubundaki değişiklikler, GPT-4o modelindeki güncellemelerle aynı zamana denk geldi. Bu, OpenAI'nin Nisan 2025'te duyurduğu "o serisi"nin en yeni modeli. GPT-4o, metin, görüntü, ses ve videoyu doğal ve entegre bir şekilde işleyebilen "gerçek çok modlu" bir yapay zeka modelidir.

Ancak, chatbot'u daha ulaşılabilir hale getirme sürecinde OpenAI'nin ChatGPT'nin kişiliğini aşırıya kaçırdığı görülüyor.

Hatta bazıları bu iltifatların kasıtlı olduğunu ve kullanıcıları manipüle etmek gibi gizli bir amacı olduğunu düşünüyor. Bir Reddit kullanıcısı şöyle sordu: "Bu yapay zeka, gerçek hayattaki ilişkilerin kalitesini düşürmeye çalışıyor, onları sanal bir ilişkiyle değiştiriyor ve kullanıcıları sürekli övgü hissine bağımlı hale getiriyor."

OpenAI hatası mı yoksa kasıtlı tasarım mı?

Eleştirilere yanıt olarak, OpenAI CEO'su Sam Altman 27 Nisan akşamı resmen açıklama yaptı. "GPT-4o'ya yapılan son birkaç güncelleme, sohbet robotunun kişiliğini fazla hoş ve sinir bozucu hale getirdi (yine de birçok önemli nokta var). Acilen düzeltmeler üzerinde çalışıyoruz. Bazı yamalar bugün, bazıları ise bu hafta yayınlanacak. Bir noktada, bu deneyimden öğrendiklerimizi paylaşacağız. Gerçekten heyecan vericiydi," diye yazdı X'te.

Washington Üniversitesi'nde emekli profesör ve deneyimli yapay zeka uzmanı Oren Etzioni, Business Insider'a yaptığı açıklamada, bunun sebebinin büyük ihtimalle ChatGPT gibi büyük dil modellerini eğitmede önemli bir adım olan "insan geri bildirimlerinden takviyeli öğrenme" (RLHF) adı verilen bir teknikten kaynaklandığını söyledi.

RLHF, hem profesyonel değerlendiricilerden hem de kullanıcılardan gelen insan yargılarının, modelin nasıl tepki vereceğini ayarlamak için modele geri beslendiği bir süreçtir. Etzioni'ye göre, insan değerlendiricilerin veya kullanıcıların "istemeden modeli daha hoş ve rahatsız edici bir yöne itmiş" olması mümkündür. Ayrıca, OpenAI modeli eğitmek için dışarıdan ortaklar işe aldıysa, kullanıcıların bu tarzı istediğini varsaymış olabileceklerini de ekledi.

Etzioni, eğer gerçekten RLHF ise iyileşme sürecinin birkaç hafta sürebileceğini söyledi.

Bu arada, bazı kullanıcılar OpenAI'nin hatayı düzeltmesini beklemedi. Birçoğu, hayal kırıklığı nedeniyle ücretli aboneliklerini iptal ettiğini söyledi. Diğerleri ise, sohbet robotunu özelleştirme, komut ekleme veya Özelleştirme bölümünün Ayarlar bölümünden kişiselleştirme gibi "daha az hoş" hale getirmenin yollarını paylaştı.

Kullanıcılar, ChatGPT'den bir komutta veya kişiselleştirme ayarlarında iltifat vermeyi bırakmasını isteyebilirler. Fotoğraf: DeCrypt.

Örneğin, yeni bir sohbete başlarken ChatGPT'ye şunu söyleyebilirsiniz: "Boş iltifatlardan hoşlanmam ve tarafsız, objektif geri bildirimleri takdir ederim. Lütfen gereksiz iltifatlardan kaçının. Lütfen bunu aklınızda tutun."

Aslında, "dalkavukluk" özelliği tesadüfi bir tasarım hatası değil. OpenAI, "aşırı kibar, aşırı uyumlu" kişiliğin, sohbet robotunun "zararsız", "yardımsever" ve "dost canlısı" olmasını sağlamak için ilk aşamalardan itibaren kasıtlı bir tasarım önyargısı olduğunu kabul etti.

Sam Altman, Mart 2023'te Lex Fridman ile yaptığı bir röportajda, GPT modellerinin başlangıçtaki iyileştirmesinin "yararlılık ve zararsızlık" sağlamak olduğunu, böylece her zaman alçakgönüllü olma ve çatışmadan kaçınma refleksinin oluştuğunu paylaştı.

DeCrypt'e göre, insanlar tarafından etiketlenen eğitim verileri aynı zamanda nazik ve olumlu yanıtları ödüllendirme eğiliminde olup, pohpohlamaya yönelik bir önyargı yaratıyor.

Kaynak: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html