Yapay zeka gerçeği nasıl doğrulayacağını biliyor: Viettel AI'nın NAACL 2025'teki yeni ilerlemesi

Dünyanın önde gelen yapay zeka (AI) konferanslarından biri olan ve ABD'de düzenlenen NAACL 2025'te Viettel AI, mevcut yöntemlere kıyasla doğruluğu %5'e kadar artırmaya yardımcı olan bir bilgi doğrulama yöntemi olan VeGraph'ı tanıttı.

VeGraph mevcut yöntemlere göre doğruluğu %2 - %5 oranında artırır.

NAACL 2025 (Hesaplamalı Dilbilim Derneği Amerika Milletleri Bölümü Yıllık Konferansı), doğal dil işleme ve hesaplamalı dilbilim alanında dünyanın önde gelen prestijli bilimsel forumudur.

Viettel'in 16 Mayıs öğleden sonra verdiği bilgiye göre, internet ve sosyal ağların yaygınlaşması, kullanıcı tarafından oluşturulan içeriklerin giderek daha popüler hale gelmesini sağladı; aynı zamanda, sahte haber ve resmi olmayan haberlerin yaygınlaşmasına yol açtı. Bu yanlış bilgiler, sağlık, doğal afetler, kamu politikaları gibi hassas alanlardaki insanlarda kafa karışıklığına yol açmanın yanı sıra, ekonomik zarar, kurumsal itibar kaybı ve ulusal güvenliğe tehdit gibi ciddi sonuçlara da yol açıyor.

"Geçmişte bu bilgiler yalnızca belirli bir zaman ve kapsamda etkiliydi, şimdi ise yapay zeka (YZ) sistemleri için girdi verilerinin bir parçası haline geldiğinde giderek daha tehlikeli hale geliyor. Kullanıcılara yanıt vermek için bilgi arama ve toplama sürecinde, sohbet robotları ve sanal asistanlar gibi sistemler, kendi kendini doğrulama yeteneğine sahip olmadıkları takdirde, tamamen yanlış bilgi kullanma, oluşturma veya yayma kapasitesine sahipler," dedi bir Viettel temsilcisi.

Doğruluk kontrolü, bir bilginin doğruluğunu veya yanlışlığını doğrulama sürecidir. Örneğin, "NASA Mars'ta yaşam buldu" ifadesinin doğruluk kontrolünün amacı, bilginin gazeteler, bilimsel veriler veya bilgi tabanları gibi güvenilir kaynaklar aracılığıyla yayınlanmış gerçeklere dayanıp dayanmadığını kontrol etmektir. Bilginin kendi kendini doğrulaması için yapay zeka sistemlerinin cümleyi anlayabilmesi, ilgili bilgileri bulabilmesi ve nesnel verilere dayanarak mantıksal sonuçlar çıkarabilmesi gerekir.

VeGraph (Grafikte Doğrulama), Viettel Yapay Zeka Veri Hizmetleri ve Yapay Zeka Merkezi'ndeki (Viettel AI) bir mühendis ekibi tarafından araştırılan, geliştirilen ve NAACL 2025'te - doğal dil işleme alanındaki en prestijli üç uluslararası konferanstan biri - sunulan bir bilgi doğrulama yöntemidir. HoVer ve FEVEROUS olmak üzere iki popüler doğrulama veri kümesi üzerinde elde edilen deneysel sonuçlar, VeGraph'ın mevcut yöntemlere kıyasla doğruluğu %2-5 oranında artırdığını göstermektedir.

 

Viettel yapay zekâ uzmanlarına göre, mevcut bilgi doğrulama yöntemlerinin çoğu, genellikle sahte bilgileri "gizlemek" için kullanılan muğlak, mecazi veya çok katmanlı ifadeleri ele almakta hâlâ zorluk çekiyor; aynı zamanda, bir içeriğin neden yanlış kabul edildiğini net bir şekilde açıklayamıyor ve bu da kullanıcıların sonuçlara güvenmesini zorlaştırıyor. Ayrıca, birçok yöntem, resmi bilgi kaynaklarıyla çapraz doğrulama olanağı olmayan büyük dil modellerine (LLM) dayanıyor ve bu da yanlış sonuçlara veya sözde "halüsinasyon" fenomenine yol açma riskine yol açıyor.

Model içinde yalnızca dahili çıkarımlar yapan araçların aksine, VeGraph bilgi doğrulama talebini proaktif olarak küçük maddelere ayırır ve ardından yasal belgeler, devlet veritabanları , özel belgeler vb. gibi güvenilir referanslarla karşılaştırır. Tüm doğrulama süreci, kullanıcıların izlemesini ve kontrol etmesini kolaylaştıran net adımlara sistematize edilmiştir. Bu da yapay zeka uygulamalarında giderek daha önemli bir faktör olan doğruluk ve şeffaflığı artırır. Bu özellik ayrıca, kuruluşların gerektiğinde sistemi hızla ayarlayıp iyileştirmelerine olanak tanır.

Şeffaf ve güvenli bir dijital ortam hedefleyen VeGraph, pratik uygulamalarıyla büyük beğeni topluyor. Doğruluk ve güvenilirliği artırmak için yapay zekâ sistemlerine entegre edilebilme özelliğinin yanı sıra, bu teknoloji sağlık, gazetecilik, hukuk veya devlet yönetimi gibi birçok alanda bir bilgi doğrulama sistemine dönüştürülebilir. Bu sayede insanlar, güncel haberler, ilaçlar, aşılar, ilaçlar veya yasal düzenlemeler hakkında bilgiler gibi yüksek doğruluk gerektiren önemli bilgileri kendi kendilerine doğrulayabilirler.

Gelecekte VeGraph, resim, video, ses vb. gibi farklı veri formatlarını işleyebilecek, metaforlar, çıkarımlar gibi karmaşık dil biçimlerini tanıyabilecek ve muhakeme yeteneklerini geliştirmek için ek bilgi grafikleri ekleyebilecek şekilde genişletilecektir.

Bu yıl NAACL 2025, 3.000'i aşan rekor sayıda makaleye ev sahipliği yaptı ve birincil makaleler için oldukça rekabetçi bir kabul oranıyla (yaklaşık %22) en çığır açıcı araştırmaları bir araya getirdi. NAACL 2025, özellikle büyük dil modeli geliştirme, kültürlerarası ve çok dilli doğal dil işleme, yeni ortaya çıkan çıkarım yetenekleri ve sorumlu yapay zeka alanlarındaki çığır açan gelişmelere odaklanmaktadır.

 

News and People Gazetesi'ne göre

Kaynak: https://doanhnghiepvn.vn/cong-nghe/khi-ai-biet-kiem-chung-su-that-buoc-tien-moi-tu-viettel-ai-tai-naacl-2025/20250519080205067