Yapay zeka ne kadar akıllıysa, cehaletini gizleme olasılığı o kadar mı yüksek?

İspanya'daki Valensiya Politeknik Üniversitesi'ndeki yapay zeka (YZ) araştırma ekibi, büyük dil modelleri büyüdükçe ve daha karmaşık hale geldikçe, kullanıcıların cevabı bilmediklerini kabul etme olasılıklarının azaldığını buldu.

Yapay zeka ne kadar akıllıysa, kullanıcılara cevabı bilmediğini itiraf etme olasılığı o kadar düşüktür. (Yapay zeka çizimi)

Nature dergisinde yayınlanan araştırmada, ekip en popüler üç yapay zeka sohbet robotunun son sürümlerini yanıt verme hızı, doğruluk ve kullanıcıların yanlış cevapları tespit etme becerisi açısından test etti.

En popüler üç hukuk yüksek lisansı olan BLOOM, LLaMA ve GPT'nin doğruluğunu test etmek için ekip binlerce soru sordu ve alınan yanıtları aynı soruların önceki versiyonlarıyla karşılaştırdı. Ayrıca matematik, fen bilimleri , kelime problemleri ve coğrafya gibi konuların yanı sıra metin oluşturma veya liste sıralama gibi eylemleri gerçekleştirme becerisini de çeşitlendirdiler.

Çalışma, bazı önemli eğilimleri ortaya koydu. Sohbet robotlarının genel doğruluğu her yeni sürümde iyileşti, ancak daha zor sorularla karşı karşıya kaldıklarında yine de düşüş gösterdi. Şaşırtıcı bir şekilde, Hukuk Yüksek Lisansı (LL.M.) programları büyüdükçe ve daha karmaşık hale geldikçe, doğru cevap verme becerileri konusunda daha az açık olma eğiliminde oldular.

Önceki sürümlerde, çoğu Hukuk Yüksek Lisansı (LLM) programı, kullanıcıların bir cevap bulamadığında veya daha fazla bilgiye ihtiyaç duyduğunda onları açıkça bilgilendirirdi. Buna karşılık, yeni sürümler daha fazla tahminde bulunma eğilimindedir ve bu da hem doğru hem de yanlış olmak üzere genel olarak daha fazla cevapla sonuçlanır. Daha da endişe verici olanı, çalışma, tüm Hukuk Yüksek Lisansı (LLM) programlarının kolay sorulara bile ara sıra yanlış cevaplar verdiğini ve bu durumun güvenilirliklerinin iyileştirilmesi gereken bir sorun olmaya devam ettiğini ortaya koymuştur.

Bu bulgular yapay zekanın evriminde bir paradoksu ortaya koyuyor: Modeller daha güçlü hale gelirken, aynı zamanda sınırlamaları konusunda daha az şeffaf hale gelebilirler.

Bu durum, yapay zeka sistemlerinin kullanımı ve güvenirliliği konusunda yeni zorluklar ortaya çıkarıyor, kullanıcıların daha dikkatli olmasını, geliştiricilerin ise yalnızca modellerin doğruluğunu değil aynı zamanda "kendi farkındalığını" da geliştirmeye odaklanmasını gerektiriyor.

Kaynak: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html