Yapay zeka halüsinasyon görüyor, ancak insanlar daha fazla acı çekiyor

Anthropic CEO'su Dario Amodei, günümüz yapay zekasının insanlara kıyasla "halüsinasyon" yetenekleri hakkında tartışmalı açıklamalarda bulundu.

Anthropic'in yeni çıkan Claude 4'ü daha akıllı, ancak yine de halüsinasyon etkisi yaratıyor. Fotoğraf: Anthropic .

Anthropic'in San Francisco'daki ilk geliştirici etkinliğinde CEO Dario Amodei, mevcut yapay zeka modellerinin insanlardan daha düşük bir oranda "halüsinasyon" yaratabildiğini söyledi. Burada "halüsinasyonlar", yapay zekanın kurgusal içerikler oluşturup bunları gerçekmiş gibi sunması olarak anlaşılıyor.

Amodei, yapay zekanın halüsinasyon görmesinin Anthropic'in AGI (Yapay Genel Zeka) hedefine ulaşmasını engellemediğini vurguladı. "Ölçümünüze bağlı, ancak yapay zeka modellerindeki halüsinasyon sıklığının muhtemelen insanlara göre daha düşük olduğunu düşünüyorum, sadece hata yapma biçimleri daha şaşırtıcı," dedi.

Amodei, sektörde Yapay Zeka (AI) konusunda en yüksek sesle konuşan savunuculardan biri oldu. "İnsanlar her zaman yapay zeka için bir 'üst sınır' bulmaya çalışıyor," diyor. "Şu anda böyle bir üst sınır göremiyoruz."

Anthropic CEO'su "Yapay Zeka iyimserliği"nin savunucularından biri. Fotoğraf: Anthropic.

Ancak herkes aynı fikirde değil. Google DeepMind CEO'su Demis Hassabis bu hafta mevcut yapay zeka modellerinin "deliklerle dolu" olduğunu, hatta bazı temel soruları bile yanlış cevapladığını belirtti.

Ayrıca, bazı yeni modellerin karmaşık çıkarım görevlerinde daha fazla sorun yaşadığına dair işaretler de var. OpenAI'nin o3 ve o4-mini versiyonlarında, önceki çıkarım modellerine kıyasla daha fazla halüsinasyon görülme sıklığı var. OpenAI'nin kendisi bile bunun nedenini anlayamıyor.

Amodei ayrıca insanların sıklıkla hata yaptığına değinerek, yapay zekanın hata yapıyor olmasının "yeterince akıllı olmadığı" anlamına gelmediğini söyledi. Ancak Antropik lider, son derece güvenilir bir şekilde yanlış bilgi verdiklerinde kolayca sorunlara yol açabileceklerini de kabul etti.

Amodei'nin açıklamaları, yapay zeka camiasında mevcut modellerin gerçek yetenekleri konusunda tartışmalara yol açtı. Bazı uzmanlar, yapay zekanın yanılsamaları azaltmada önemli ilerleme kaydettiği konusunda hemfikir. Diğerleri ise yapay zekanın yanlış bilgilere aşırı güvenmesinin potansiyel riskleri konusunda uyarıyor.

Tartışma, yapay zeka sektörünün karşı karşıya olduğu büyük bir zorluğu yansıtıyor. Şirketler, yanıtlarındaki belirsizlikle başa çıkabilen, hem akıllı hem de güvenilir sistemler geliştirmeyi hedefliyor.

Kaynak: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html