Yeni araştırma: Yapay zeka insanlar gibi 'akıl yürütmüyor'

Yapay zeka (YZ) programları etkileyici sonuçlar elde etti, ancak yeni araştırmalar YZ'nin insanlar gibi akıl yürütebildiği iddiasını abartmamamız gerektiğini öne sürüyor.

Yapay zeka programları son yıllarda birçok başarıya imza attı - Fotoğraf: REUTERS

Büyük dil modellerinin (LLM) girdi verilerinden çıktı sonuçlarına kadar olan tüm sürecini gözlemleyemeyiz.

Anlamayı kolaylaştırmak için bilim insanları , bu programların nasıl çalıştığını tanımlamak için "akıl yürütme" gibi yaygın terimler kullanmışlardır. Ayrıca, programların insanlar gibi "düşünebildiğini", "akıl yürütebildiğini" ve "anlayabildiğini" de belirtmektedirler.

Yapay zekanın yeteneklerini abartmak

ZDNET'in 6 Eylül tarihli haberine göre, son iki yıldır birçok yapay zeka yöneticisi basit teknik başarıları abartmak için abartıya başvurdu.

OpenAI, Eylül 2024'te o1 akıl yürütme modelinin "insanların zor sorularla karşılaştıklarında uzun süre düşünmelerine benzer şekilde, sorunları çözerken bir çıkarım zinciri kullandığını" duyurdu.

Ancak yapay zeka bilimcileri buna itiraz ediyor. Yapay zekanın insan zekasına sahip olmadığına inanıyorlar.

ABD'deki Arizona Eyalet Üniversitesi'nden bir grup yazarın arXiv veri tabanında yaptığı çalışma, yapay zekanın muhakeme yeteneğini basit bir deneyle doğruladı.

Sonuçlar, "düşünce zinciriyle çıkarımın kırılgan bir yanılsama" olduğunu, gerçek bir mantıksal mekanizma olmadığını, sadece desen eşleştirmenin karmaşık bir biçimi olduğunu gösterdi.

“Düşünce zinciri” (CoT) terimi, yapay zekanın yalnızca nihai bir cevap bulmasını değil, aynı zamanda GPT-o1 veya DeepSeek V1 modellerinde olduğu gibi mantıksal akıl yürütmenin her adımını sunmasını da sağlar.

OpenAI'nin GPT-2 dil modelinin çizimi - Fotoğraf: ECHOCRAFTAI

Yapay zekanın gerçekte ne yaptığını görün

Araştırmacılar, geniş çaplı analizlerin LLM'nin mantıksal akıl yürütme süreçlerinden ziyade semantik ve yüzeysel ipuçlarına dayanma eğiliminde olduğunu gösterdiğini söylüyor.

Ekip, "LLM, öğrenilen girdi ilişkilerine dayalı yüzeysel mantık zincirleri kurar ve bu da genellikle geleneksel akıl yürütme yöntemlerinden veya bilindik kalıplardan sapan görevlerde başarısızlığa uğrar," şeklinde açıklıyor.

LLM'nin yalnızca kalıpları eşleştirdiği ve aslında çıkarımlarda bulunmadığı hipotezini test etmek için ekip, 2019'da OpenAI tarafından yayınlanan açık kaynaklı bir model olan GPT-2'yi eğitti.

Model, başlangıçta 26 İngilizce harf üzerinde çok basit görevler üzerinde eğitildi; örneğin bazı harfleri ters çevirmek, örneğin "APPLE" kelimesini "EAPPL" olarak değiştirmek gibi. Daha sonra ekip görevi değiştirdi ve GPT-2'den bu görevi üstlenmesini istedi.

Sonuçlar, eğitim verilerinde yer almayan görevler için GPT-2'nin CoT kullanarak bunları doğru bir şekilde çözemediğini göstermektedir.

Bunun yerine, model en benzer öğrenilmiş görevleri uygulamaya çalışır. Dolayısıyla "çıkarımları" makul gelebilir, ancak sonuçlar genellikle yanlıştır.

Grup, LLM'nin cevaplarına çok fazla güvenilmemesi veya körü körüne inanılmaması gerektiği, çünkü "çok ikna edici görünen saçmalıklar" üretilebileceği sonucuna vardı.

Ayrıca yapay zekanın gerçek doğasını anlamak, abartılardan kaçınmak ve yapay zekanın insanlar gibi akıl yürütme yeteneğine sahip olduğunu öne sürmeyi bırakmak gerektiğini vurguladılar.

Konuya geri dön

ANH PER

Kaynak: https://tuoitre.vn/nghien-cuu-moi-ai-khong-suy-luan-nhu-con-nguoi-20250907152120294.htm