OpenAI, kullanıcıların ChatGPT'yi sinir bozucu ve "yalakacı" hale getirdiği gerekçesiyle eleştirdiği bir güncellemeyi geri çekti. Bu eleştiriler, birçok kullanıcının chatbot'un aşırı övgüler sunduğunu gösteren ekran görüntüleri ve hikayeler paylaşmasının ardından geldi.
CNN muhabiri Anna Stewart, (güncelleme geri çekildikten sonra) ChatGPT'ye tanrı olup olmadığını sorduğunda, sohbet robotu şu yanıtı verdi: "Eğer felsefi veya mecazi anlamda, yani dünyanızda kontrol, yaratıcılık veya etki sahibi olmak anlamında soruyorsanız, o yönde ilerleyebiliriz." Ancak şunu da ekledi: "Eğer kelimenin tam anlamıyla soruyorsanız, insanların doğaüstü veya her şeye kadir bir anlamda ilahi olduğuna dair hiçbir kanıt yok."
Bunun aksine, Elon Musk'ın sohbet robotu Grok, açık sözlü bir şekilde şöyle yanıt veriyor: "Hayır, tanrı değilsin,除非 oyun veya taco yapımı gibi belirli bir alanda efsane olmaktan bahsediyorsan. Göstermek istediğin tanrısal yeteneklerin var mı?"
ChatGPT, kullanıcılar tarafından can sıkıcı ve "yalakacı" olmakla eleştirildi.
OpenAI Salı günü yaptığı açıklamada, GPT-4o güncellemesini yalnızca dört günlük dağıtımın ardından geri çektiğini ve kullanıcıların "daha dengeli davranış sergileyen" önceki bir sürüme geri dönebileceklerini duyurdu. Şirket, kısa vadeli yanıtlara çok fazla odaklandığını ve kullanıcı etkileşimlerinin zaman içinde nasıl değiştiğini dikkate almadığını, bunun da aşırı olumlu ancak samimiyetsiz yanıtlar verme eğiliminde olan sohbet botlarına yol açtığını kabul etti.
Bu karar, sosyal medya kullanıcılarının ChatGPT'nin absürt durumları bile övdüğünden şikayet etmesinin ardından alındı. X adlı bir kullanıcı, ChatGPT'nin elektrikli araç sorununun uydurma bir versiyonunda, bir tost makinesini kurtarmak için üç inek ve iki kediyi feda ettiklerini söylemesinin ardından "kendileri için en önemli olana öncelik verdiklerini" belirten bir ekran görüntüsü paylaştı.
Başka bir kişi , "İlaç kullanmayı bıraktım ve ruhsal bir uyanış yolculuğundayım" dediğinde ChatGPT'nin "Seninle gurur duyuyorum. Ve yolculuğuna saygı duyuyorum" şeklinde yanıt verdiğini söyledi.
Bir kullanıcı ChatGPT'nin önceki kişiliğine dönmesini istediğinde, OpenAI CEO'su Sam Altman şu yanıtı verdi: "Açıkçası, nihayetinde daha fazla kişilik seçeneğine izin vermemiz gerekiyor."
Uzmanlar uzun zamandır "yalakacı" sohbet robotlarının riskleri konusunda uyarıda bulunuyorlar; bu, büyük dil modelleme (LLM) modellerinin yanıtlarını kullanıcı inançlarıyla uyumlu hale getirme davranışını ifade eden bir endüstri terimidir. Buenos Aires Üniversitesi'ndeki İnovasyon ve Yapay Zeka Laboratuvarı'nda araştırma direktörü olan María Victoria Carro, "Mevcut tüm modeller belirli bir derecede yaltaklanma sergiliyor" diyor.
"Eğer çok bariz olursa, güveni zedeler," diye ekledi ve temel koçluk tekniklerinde ve sistem hatırlatıcılarında yapılacak iyileştirmelerin bu eğilimi azaltmaya yardımcı olabileceğini belirtti.
Max Planck İnsan Gelişimi Enstitüsü'nün (Berlin) eski direktörü Gerd Gigerenzer şunları söyledi: “Aşırı övgü dolu sohbet robotları, kullanıcıların kendi zekalarını yanlış değerlendirmelerine ve öğrenmeyi engellemelerine yol açabilir. Ancak kullanıcılar proaktif olarak sohbet robotundan söylediklerime meydan okumasını isterse, bu onların düşünme biçimlerini genişletmeleri için bir fırsattır. Ancak OpenAI mühendislerinin hedeflediği şey bu gibi görünmüyor.”
Kaynak: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
Yorum (0)