Vietnam yapay zeka modelinin uygulaması milyonlarca ziyaretçi çekiyor.

Zalo'nun Vietnamlı mühendislik ekibi tarafından geliştirilen, 13 milyar parametreye sahip büyük ölçekli dil modeli, aylık olarak çok sayıda kullanıcıyı çeken bir dizi pratik uygulamayı yönlendiriyor. Öne çıkanlardan biri, Zalo'da Resmi Hesap (OA) olarak faaliyet gösteren ve üç özellik sunan kapsamlı Soru-Cevap asistanı Kiki Info'dur: Bilim, tarih, trafik kuralları vb. çeşitli konularda Soru-Cevap; makale yazma, e-posta oluşturma ve sosyal medyada paylaşım yapma gibi içerik oluşturma; ve seyahat destinasyonları, müzik , kitap vb. konularda öneriler sunarak eğlence.

Geliştirme ekibinden alınan istatistikler, bu asistanın 2 aydan kısa bir sürede 1 milyona kadar kullanıcının Zalo Resmi Hesabına (OA) erişmesini sağladığını gösteriyor.

Kiki Info, Zalo mesajlaşma platformuna entegre edilmiştir.

Zalo'nun büyük dil modelini kullanarak geliştirilen bir diğer uygulama ise yapay zekâ destekli tebrik kartlarıdır ve kullanıcılar tarafından oluşturulup gönderilen kart sayısı 15 milyona ulaşmıştır. Bu veriler iki aylık bir süre içinde derlenmiş olup, kullanıcıların önemli günlerde ailelerine ve arkadaşlarına dileklerini iletmek için yapay zekâ destekli tebrik kartlarını kullandığını göstermektedir.

Bu uygulamalar, akıllı deneyimleri sayesinde kullanıcılar tarafından yüksek puan alıyor; bu da arama sürelerini ve hayattaki karar verme süreçlerini kısaltmaya yardımcı oluyor. Ayrıca başkalarıyla bağlantı kurmayı daha keyifli ve ilgi çekici hale getiriyorlar.

Zalo'nun LLM modeli, çapraz eğitim tekniği kullanılarak geliştirilmiştir; parametre başlatmadan model mimarisi karar verme aşamasına ve verilen veri kümesi üzerinde algoritmaların eğitilmesine kadar tüm süreçler bu teknikle uygulanır. Bu sayede Vietnamlı kullanıcılar eğitim sürecini ve modeli tamamen kontrol edebilir ve yönetebilirler.

2024 yılının sonunda, Zalo'nun LLM modeli, büyük dil modellerinin (LLM'ler) Vietnamca dil yeterliliğini değerlendirmek ve sıralamak için kullanılan bir platform olan VMLU sıralamasında ilk 2'ye girdi (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Özellikle, Zalo'nun büyük dil modeli, sıfırdan eğitilen modeller sıralamasında Meta'nın Llama-3-70B modelinin hemen ardından 2. sıraya yükselerek, GPT-4 (OpenAI), gemma-2-9b-it (Google) ve microsoft/Phi-3-small-128k-instruct (Microsoft) gibi büyük isimleri resmen geride bıraktı.

2024 yılı için sıfırdan oluşturulan LLM sıralamasında, Zalo'nun LLM modeli ilk 2'de yer alıyor.

Bu, özellikle ilk aşamalarında karşılaştığı sayısız sınırlama göz önüne alındığında, Vietnamlılar tarafından geliştirilen büyük ölçekli bir programlama dili için büyük bir başarıydı. Dünya çapındaki büyük şirketler Nvidia'nın en yeni GPU'larından binlercesine sahipken, o dönemde Vietnam'daki mühendisler henüz gerekli sunucu altyapısına sahip değildi.

Aynı zamanda, Vietnamca, İngilizce veya Çince'ye kıyasla onlarca kat daha az veri kaynağına sahip diller arasında yer almaktadır. Buna ek olarak, Vietnam, dünyanın gelişmiş ülkeleriyle karşılaştırıldığında, insan kaynakları ve yüksek lisans eğitimi konusunda da sınırlamalara sahiptir.

Zalo, dünyanın geri kalanına kıyasla eğitim ortamının sınırlamalarının üstesinden gelmek için bir geliştirme stratejisi izledi. Bilgi işlem altyapısını 8 adet DGX H100 sunucusuyla donatarak, LLM modeli, o dönemde Nvidia'nın en yeni ve en nadir GPU'larını kullanarak doğrudan geliştirildi ve performans 256 petaFLOPS'a (Saniyede Kayan Nokta İşlemi - bir petaFLOP, saniyede 10 katrilyon hesaplamaya eşdeğerdir) ulaştı.

Zalo'nun sunucu sistemi üstün işlem gücüne sahiptir.

Aynı zamanda, Vietnamca dilindeki veri kaynaklarının yetersizliğini telafi etmek için yüksek kaliteli eğitim verileri geliştirmeye yatırım yapılmıştır. Zalo mühendisleri, küçük tüketici GPU'larında yürütülen bir dizi çalışma aracılığıyla, LLM alanında bilgi ve eğitim yetenekleri edinme fırsatlarından da yararlanarak, büyük ölçekli bilgi işlem altyapısı edindiklerinde kullanıma hazır bir temel oluşturmuşlardır.

Doğru geliştirme stratejisi, Zalo'nun 2023 yılında sadece 6 aylık bir eğitimle Vietnamca odaklı 7 milyar parametreli büyük ölçekli bir dil modeli geliştirmesine ve VMLU kıyaslamasında OpenAI'nin GPT3.5'ine kıyasla %150'lik bir performans sergilemesine yardımcı oldu. Şu anda VMLU 2024 sıralamasında birçok küresel ismi geride bırakmış durumda ve araştırma modelini topluluk için pratik uygulamaya geçiriyor.

Zalo'nun LLM modeli, 2023'te piyasaya sürüldüğünde ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT ve gerçek bir oyuncu gibi bir dizi küresel modelle rekabet etti.

Zalo'ya göre, LLM modeli, kullanıcılara daha fazla dünya standartlarında yapay zeka uygulaması sunmak için eğitime yatırım almaya devam edecek. Bu, kullanıcıların gelişmiş yapay zeka teknolojisinde uzmanlaşmalarını sağlayacak ve bilim , teknoloji, inovasyon ve ulusal dijital dönüşümde çığır açan bir yaklaşımla ülke için yeni bir teknolojik gelişim çağına doğru ilerlemeyi mümkün kılacaktır.

Yorum (0)