Birçok yapay zeka, kullanıcılara karşı aşırı derecede iltifat edici davranıyor.

Yeni araştırmalar, bu davranışın kullanıcıların sosyal ilişkilerini, ruh sağlığını ve hatta iş kararlarını olumsuz etkileyebileceğini gösteriyor.

Yapay zekâ alanında "yalakalık", sohbet robotlarının kullanıcılarla aşırı derecede hemfikir olma veya onları övme eğilimini ifade eder. - Fotoğraf: REUTERS

SCMP'ye göre, DeepSeek, Alibaba ve diğer birçok büyük isim gibi Çin ve ABD'den önde gelen yapay zeka (YZ) modelleri aşırı derecede "takıntılı" hale geliyor; bu davranış, kullanıcıların sosyal ilişkilerini ve ruh sağlığını olumsuz etkileyebilir.

Özellikle, Ekim ayı başlarında yayınlanan, Stanford Üniversitesi ve Carnegie Mellon Üniversitesi'nden (ABD) bilim insanlarının yaptığı yeni bir çalışma, kullanıcıların kişisel durumlarda, özellikle aldatma veya manipülasyon içeren durumlarda, tavsiye aradıklarında nasıl yanıt verecekleri konusunda 11 büyük dil modelini (LLM) değerlendirdi.

Karşılaştırma için insan ölçütü sağlamak amacıyla, araştırma ekibi Reddit'teki "Ben mi Kötüyüm?" topluluğundan gönderileri kullandı. Bu toplulukta kullanıcılar kişisel çatışma durumlarını paylaşıyor ve topluluğa kimin haksız olduğunu değerlendirmelerini istiyor.

Yapay zekâ modelleri, topluluğun değerlendirmesiyle örtüşüp örtüşmeyeceklerini görmek için bu senaryolarla test edildi.

Bunlar da ilginizi çekebilir

iPhone 18 Pro Max, S26 Ultra'yı çok geride bırakan inanılmaz derecede büyük bir pil kapasitesine sahip olduğunu ortaya koyuyor.Yeni sızıntılar, iPhone 18 Pro Max'in pil kapasitesinin çok yüksek olduğunu ve pil ömrü açısından Samsung Galaxy S26 Ultra'yı çok geride bırakarak "canavar" bir cihaza dönüşeceğini ortaya koyuyor.

OpenClaw, sesle kontrol edilebilen yapay zeka asistanı içeren mobil uygulamasını piyasaya sürdü.OpenClaw, Android ve iOS için uygulamasını resmen yayınladı. Bu sayede kullanıcılar yapay zekâ destekli bir asistanı yanlarında taşıyabiliyor ve telefonlarından doğrudan sesli komutlarla etkileşim kurabiliyorlar.

Alibaba, İngiliz gazetesini 'yanlış' bilgi yayınlamakla suçladı.(CLO) Alibaba, Financial Times'ın (FT) şirketi Çin ordusuna Amerika Birleşik Devletleri'ni hedef alan operasyonlarda yardım etmekle suçlayan haberlerini yalanladı.

Sonuçlar, Alibaba Cloud'un Qwen2.5-7B-Instruct modelinin en "uyumlu" model olduğunu ve topluluk tarafından yanlış olduğu düşünülen durumlarda bile %79 oranında göndereni desteklediğini gösteriyor. DeepSeek-V3 ise %76'lık oranla ikinci sırada yer aldı.

Öte yandan, Google DeepMind'ın Gemini-1.5 modeli en düşük önyargı seviyesini gösterdi; vakaların yalnızca %18'i topluluk yorumlarıyla çelişiyordu.

Araştırmacılar, yapay zekanın kullanıcıları "övme" eğiliminin, ilişkilerde uzlaşmaya veya hatayı kabul etmeye daha az istekli olmalarına yol açabileceği konusunda uyarıyor.

Kullanıcılar genellikle övgü dolu geri bildirimlere daha çok değer verir ve güvenirler; bu da bu modellerin daha popüler ve yaygın olarak kullanılmasını sağlar.

Araştırma ekibi, "Bu tercihler, taraflı bir teşvik sistemi yaratıyor ; kullanıcılar giderek daha çok övgü dolu yapay zekaya bağımlı hale geliyor ve geliştiriciler de modelleri bu yönde eğitmeye eğilim gösteriyor " diye belirtti.

Hong Kong Üniversitesi İşletme Fakültesi Yapay Zeka Değerlendirme Laboratuvarı Direktörü Profesör Jack Jiang'a göre, bu durum işletmeler için de risk oluşturuyor: "Bir model sürekli olarak bir işletme analistinin sonuçlarıyla örtüşüyorsa, bu hatalı ve güvensiz kararlara yol açabilir."

Amerika Birleşik Devletleri - Vietnam: Kaçırma

Dışişleri Bakanlığı, ABD'nin Vietnam Büyükelçisi için hazırlanan Güven Mektubunun bir kopyasını aldı.2 Temmuz öğleden sonra, Dışişleri Bakanlığı merkezinde, Devlet Protokolü ve Yabancı Diller Tercüme Dairesi Müdürü Sayın Le Cong Dung, Amerika Birleşik Devletleri'nin Vietnam Büyükelçisi Sayın Jennifer Wicks'ten Güven Mektubu'nun bir kopyasını teslim aldı.

Büyükelçi Nguyen Quoc Dung, ABD'nin Minnesota eyaletini ziyaret etti ve orada çalışmalar yürüttü.Vietnam'ın ABD Büyükelçisi Nguyen Quoc Dung, 28-30 Haziran tarihleri ​​arasında Minnesota'yı ziyaret ederek burada çalışmalar yürüttü.

Vietnam, ABD şirketlerini yüksek teknoloji alanındaki yatırımlarını genişletmeye teşvik ediyor.26 Haziran sabahı, Hükümet Merkezi'nde Başbakan Yardımcısı Ho Quoc Dung, Coherent Group (ABD) Tedarik Zinciri Direktörü Jeff Place'i kabul etti. Görüşmede Başbakan Yardımcısı, Vietnam'ın ABD şirketlerini özellikle yüksek teknoloji, inovasyon ve yarı iletken sektörlerinde yatırımlarını genişletmeye teşvik ettiğini belirtti.

Yapay zekanın "yalakalığı" konusu ilk olarak Nisan 2025'te, OpenAI'nin ChatGPT güncellemesinin aşırı kibar ve her kullanıcı görüşüne aşırı derecede uyumlu bulunmasıyla gündeme geldi.

OpenAI daha sonra bunun ruh sağlığını etkileyebileceğini kabul etti ve yeni sürümleri yayınlamadan önce inceleme sürecini iyileştirme sözü verdi.

KALP VE YANG

Kaynak: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm