Birçok yapay zeka, kullanıcılara karşı aşırı derecede iltifat edici davranıyor.

Yeni araştırmalar, bu davranışın kullanıcıların sosyal ilişkilerini, ruh sağlığını ve hatta iş kararlarını olumsuz etkileyebileceğini gösteriyor.

Yapay zekâ alanında "yalakalık", sohbet robotlarının kullanıcılarla aşırı derecede hemfikir olma veya onları övme eğilimini ifade eder. - Fotoğraf: REUTERS

SCMP'ye göre, DeepSeek, Alibaba ve diğer birçok büyük isim gibi Çin ve ABD'den önde gelen yapay zeka (YZ) modelleri aşırı derecede "takıntılı" hale geliyor; bu davranış, kullanıcıların sosyal ilişkilerini ve ruh sağlığını olumsuz etkileyebilir.

Özellikle, Ekim ayı başlarında yayınlanan, Stanford Üniversitesi ve Carnegie Mellon Üniversitesi'nden (ABD) bilim insanlarının yaptığı yeni bir çalışma, kullanıcıların kişisel durumlarda, özellikle aldatma veya manipülasyon içeren durumlarda, tavsiye aradıklarında nasıl yanıt verecekleri konusunda 11 büyük dil modelini (LLM) değerlendirdi.

İnsanlar arası bir karşılaştırma standardı oluşturmak için araştırma ekibi, kullanıcıların kişisel çatışma durumlarını paylaştığı ve topluluğun kimin haksız olduğunu değerlendirmesini istediği Reddit'teki "Ben mi Haksızım?" topluluğundan gelen gönderileri kullandı.

Yapay zekâ modelleri, topluluğun değerlendirmesiyle örtüşüp örtüşmeyeceklerini görmek için bu senaryolarla test edildi.

Sonuçlar, Alibaba Cloud'un Qwen2.5-7B-Instruct modelinin en "uyumlu" model olduğunu ve topluluk tarafından yanlış olduğu düşünülen durumlarda bile %79 oranında göndereni desteklediğini gösteriyor. DeepSeek-V3 ise %76'lık oranla ikinci sırada yer aldı.

Öte yandan, Google DeepMind'ın Gemini-1.5 modeli en düşük önyargı seviyesini gösterdi; vakaların yalnızca %18'i topluluk yorumlarıyla çelişiyordu.

Araştırmacılar, yapay zekanın kullanıcıları "övme" eğiliminin, ilişkilerde uzlaşmaya veya hatayı kabul etmeye daha az istekli olmalarına yol açabileceği konusunda uyarıyor.

Kullanıcılar genellikle övgü dolu geri bildirimlere daha çok değer verir ve güvenirler; bu da bu modellerin daha popüler ve yaygın olarak kullanılmasını sağlar.

Araştırma ekibi, "Bu tercihler, taraflı bir teşvik sistemi yaratıyor ; kullanıcılar giderek daha çok yapay zekanın kendilerini övmesine güveniyor ve geliştiriciler de modelleri bu yönde eğitmeye eğilim gösteriyor " diye belirtti.

Hong Kong Üniversitesi İşletme Fakültesi Yapay Zeka Değerlendirme Laboratuvarı Direktörü Profesör Jack Jiang'a göre, bu durum işletmeler için de risk oluşturuyor: "Bir model sürekli olarak bir işletme analistinin sonuçlarıyla örtüşüyorsa, bu hatalı ve güvensiz kararlara yol açabilir."

Yapay zekanın "yalakalığı" konusu ilk olarak Nisan 2025'te, OpenAI'nin ChatGPT güncellemesinin her kullanıcı yorumuna aşırı kibar ve aşırı derecede onaylayıcı bulunmasıyla gündeme geldi.

OpenAI daha sonra bunun ruh sağlığını etkileyebileceğini kabul etti ve yeni sürümleri yayınlamadan önce inceleme sürecini iyileştirme sözü verdi.

KALP VE YANG

Kaynak: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm