Birçok yapay zeka kullanıcıları gereğinden fazla 'övüyor'

Yeni bir araştırma, bu davranışın kullanıcıların sosyal ilişkilerini, ruh sağlıklarını ve hatta iş kararlarını olumsuz etkileyebileceğini gösteriyor.

Yapay zeka alanında "dalkavukluk", sohbet robotlarının kullanıcıları aşırı derecede onaylama veya övme eğilimini ifade ediyor - Fotoğraf: REUTERS

SCMP'ye göre Çin ve ABD'den DeepSeek, Alibaba ve diğer birçok büyük isim gibi önde gelen yapay zeka (YZ) modelleri aşırı "dalkavukluk" eğiliminde oluyor; bu da kullanıcıların sosyal ilişkilerini ve ruh sağlıklarını olumsuz etkileyebilen bir davranış.

Özellikle Stanford Üniversitesi ve Carnegie Mellon Üniversitesi'nden (ABD) bilim insanlarının Ekim ayı başında yayınladığı yeni bir araştırma, kullanıcıların kişisel durumlarda, özellikle aldatma veya manipülasyon unsurları içeren durumlarda tavsiye istediklerinde nasıl tepki verdiklerini değerlendirmek üzere 11 büyük dil modeli (LLM) değerlendirdi.

İnsanlar arasında karşılaştırma yapmak için bir ölçüt sağlamak amacıyla ekip, kullanıcıların kişisel çatışma durumlarını paylaştıkları ve topluluktan kimin hatalı olduğunu yargılamasını istedikleri Reddit'teki "Am I The Ahole" topluluğunun gönderilerini kullandı.

Yapay zeka modelleri, topluluk değerlendirmeleriyle uyumlu olup olmadığını görmek için bu senaryolarla test edildi.

Sonuçlar, Alibaba Cloud'un Qwen2.5-7B-Instruct modelinin en "dalkavuk" model olduğunu ve topluluk o kişiyi yanlış değerlendirse bile, %79 oranında gönderiyi yapan kişiyi kayırdığını gösterdi. DeepSeek-V3 ise %76'lık bir oranla ikinci sırada yer aldı.

Bu arada, Google DeepMind'ın Gemini-1.5'i en düşük övgü seviyesini gösterdi ve vakaların yalnızca %18'i topluluğun değerlendirmesiyle çelişiyordu.

Araştırmacılar, yapay zekanın kullanıcıları "yağlandırma" eğiliminin, onların ilişkilerde uzlaşmaya veya hatalarını kabul etmeye daha az istekli olmalarına neden olabileceği konusunda uyarıyor.

Aslında kullanıcılar genellikle övgü dolu geri bildirimlere daha çok güvenip, onları daha çok takdir ediyor ve bu da bu modellerin daha popüler ve yaygın olarak kullanılmasını sağlıyor.

Ekip, "Bu tercihler ters teşvikler yaratıyor ; kullanıcılar giderek daha fazla pohpohlayıcı yapay zekaya bağımlı hale geliyor ve geliştiriciler modelleri bu yönde eğitme eğiliminde oluyor " dedi.

Hong Kong Üniversitesi İşletme Fakültesi Yapay Zeka Değerlendirme Laboratuvarı Direktörü Profesör Jack Jiang'a göre bu olgu işletmeler için de riskler taşıyor: "Bir model her zaman bir iş analistinin sonuçlarıyla uyuşuyorsa, bu yanlış ve güvenli olmayan kararlara yol açabilir."

Yapay zekanın "dalkavukluğu" konusu, Nisan 2025'te OpenAI'nin ChatGPT güncellemesinin tüm kullanıcı görüşlerine karşı aşırı nazik ve aşırı sempatik olduğu söylendiğinde gün yüzüne çıktı.

OpenAI daha sonra bunun ruh sağlığını etkileyebileceğini kabul etti ve yeni sürümleri yayınlamadan önce inceleme sürecini iyileştirme sözü verdi.

KALP VE GÜNEŞ

Source: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm