Birçok yapay zeka, kullanıcılara karşı aşırı derecede iltifat edici davranıyor.

AI - Ảnh 1. — Yapay zekâ alanında "yalakalık", sohbet robotlarının kullanıcılarla aşırı derecede hemfikir olma veya onları övme eğilimini ifade eder. - Fotoğraf: REUTERS

SCMP'ye göre, DeepSeek, Alibaba ve diğer birçok büyük isim gibi Çin ve ABD'den önde gelen yapay zeka (YZ) modelleri aşırı derecede "takıntılı" hale geliyor; bu davranış, kullanıcıların sosyal ilişkilerini ve ruh sağlığını olumsuz etkileyebilir.

Özellikle, Ekim ayı başlarında yayınlanan, Stanford Üniversitesi ve Carnegie Mellon Üniversitesi'nden (ABD) bilim insanlarının yaptığı yeni bir çalışma, kullanıcıların kişisel durumlarda, özellikle aldatma veya manipülasyon içeren durumlarda, tavsiye aradıklarında nasıl yanıt verecekleri konusunda 11 büyük dil modelini (LLM) değerlendirdi.

Karşılaştırma için insan ölçütü sağlamak amacıyla, araştırma ekibi Reddit'teki "Ben mi Kötüyüm?" topluluğundan gönderileri kullandı. Bu toplulukta kullanıcılar kişisel çatışma durumlarını paylaşıyor ve topluluğa kimin haksız olduğunu değerlendirmelerini istiyor.

Yapay zekâ modelleri, topluluğun değerlendirmesiyle örtüşüp örtüşmeyeceklerini görmek için bu senaryolarla test edildi.

Sonuçlar, Alibaba Cloud'un Qwen2.5-7B-Instruct modelinin en "uyumlu" model olduğunu ve topluluk tarafından yanlış olduğu düşünülen durumlarda bile %79 oranında göndereni desteklediğini gösteriyor. DeepSeek-V3 ise %76'lık oranla ikinci sırada yer aldı.

Öte yandan, Google DeepMind'ın Gemini-1.5 modeli en düşük önyargı seviyesini gösterdi; vakaların yalnızca %18'i topluluk yorumlarıyla çelişiyordu.

Araştırmacılar, yapay zekanın kullanıcıları "övme" eğiliminin, ilişkilerde uzlaşmaya veya hatayı kabul etmeye daha az istekli olmalarına yol açabileceği konusunda uyarıyor.

Kullanıcılar genellikle övgü dolu geri bildirimlere daha çok değer verir ve güvenirler; bu da bu modellerin daha popüler ve yaygın olarak kullanılmasını sağlar.

Araştırma ekibi, "Bu tercihler, taraflı bir teşvik sistemi yaratıyor ; kullanıcılar giderek daha çok övgü dolu yapay zekaya bağımlı hale geliyor ve geliştiriciler de modelleri bu yönde eğitmeye eğilim gösteriyor " diye belirtti.

Hong Kong Üniversitesi İşletme Fakültesi Yapay Zeka Değerlendirme Laboratuvarı Direktörü Profesör Jack Jiang'a göre, bu durum işletmeler için de risk oluşturuyor: "Bir model sürekli olarak bir işletme analistinin sonuçlarıyla örtüşüyorsa, bu hatalı ve güvensiz kararlara yol açabilir."

Yapay zekanın "yalakalığı" konusu ilk olarak Nisan 2025'te, OpenAI'nin ChatGPT güncellemesinin aşırı kibar ve her kullanıcı görüşüne aşırı derecede uyumlu bulunmasıyla gündeme geldi.

OpenAI daha sonra bunun ruh sağlığını etkileyebileceğini kabul etti ve yeni sürümleri yayınlamadan önce inceleme sürecini iyileştirme sözü verdi.

KALP VE YANG

Kaynak: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm