Zastosowanie wietnamskiego modelu sztucznej inteligencji przyciąga miliony odwiedzin.

Opracowany przez wietnamski zespół inżynierów Zalo, model języka wielkoskalowego z 13 miliardami parametrów napędza szereg praktycznych aplikacji, które co miesiąc przyciągają rzesze użytkowników. Na szczególną uwagę zasługuje kompleksowy asystent pytań i odpowiedzi Kiki Info, działający jako oficjalne konto (OA) na Zalo, oferujący trzy funkcje: pytania i odpowiedzi na różne tematy, takie jak nauka, historia, przepisy ruchu drogowego itp.; tworzenie treści, takie jak pisanie esejów, tworzenie e-maili i publikowanie w mediach społecznościowych; oraz rozrywkę poprzez udzielanie sugestii dotyczących miejsc podróży, muzyki , książek itp.

Statystyki zespołu programistów pokazują, że w ciągu niecałych 2 miesięcy z oficjalnego konta Zalo (OA) skorzystało aż 1 milion użytkowników.

Kiki Info jest zintegrowane z platformą komunikacyjną Zalo.

Kolejną aplikacją opracowaną z wykorzystaniem modelu języka rozszerzonego Zalo są kartki okolicznościowe AI, których liczba użytkowników osiągnęła już 15 milionów. Dane te zostały zebrane w ciągu dwóch miesięcy i pokazują, jak użytkownicy korzystają z kartek okolicznościowych AI, aby wysyłać życzenia rodzinie i przyjaciołom z okazji ważnych wydarzeń.

Aplikacje te cieszą się wysokim uznaniem użytkowników za inteligentne doświadczenie, które pomaga skrócić czas wyszukiwania i podejmowania decyzji w życiu. Sprawiają również, że kontakt z innymi i budowanie relacji staje się przyjemniejsze i bardziej angażujące.

Model LLM firmy Zalo opracowano z wykorzystaniem techniki uczenia krzyżowego – wdrażając wszystkie procesy, od inicjalizacji parametrów i podejmowania decyzji o architekturze modelu, po algorytmy szkoleniowe na danym zestawie danych. Dzięki temu użytkownicy z Wietnamu mogą w pełni opanować i kontrolować proces szkolenia oraz model.

Pod koniec 2024 roku model LLM firmy Zalo zajął drugie miejsce w rankingu VMLU – platformy do oceny i klasyfikowania znajomości języka wietnamskiego przez absolwentów LLM (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Model dużego języka firmy Zalo zajął drugie miejsce w rankingu modeli trenowanych od podstaw, ustępując jedynie modelowi Llama-3-70B firmy Meta, oficjalnie wyprzedzając takie wiodące marki, jak GPT-4 (OpenAI), gemma-2-9b-it (Google) i microsoft/Phi-3-small-128k-instruct (Microsoft).

Ranking programów LLM stworzonych od podstaw w 2024 r. z modelem LLM firmy Zalo w pierwszej dwójce.

Był to ogromny sukces dla języka programowania na szeroką skalę opracowanego przez Wietnamczyków, zwłaszcza biorąc pod uwagę liczne ograniczenia, z jakimi borykał się na wczesnym etapie rozwoju. Podczas gdy duże firmy na całym świecie posiadały tysiące najnowszych procesorów graficznych Nvidii, w Wietnamie w tamtym czasie inżynierowie nie byli jeszcze wyposażeni w niezbędną infrastrukturę serwerową.

Jednocześnie język wietnamski plasuje się wśród języków o zasobach danych, które są dziesiątki razy uboższe niż angielski czy chiński. Ponadto Wietnam ma również ograniczone zasoby ludzkie i doświadczenie w kształceniu LLM w porównaniu z krajami rozwiniętymi na całym świecie.

Zalo opracowało strategię rozwoju, aby przezwyciężyć ograniczenia swojego środowiska szkoleniowego w porównaniu z resztą świata. Dzięki wyposażeniu infrastruktury obliczeniowej w 8 serwerów DGX H100, model LLM został opracowany bezpośrednio z wykorzystaniem najnowszych i najrzadszych wówczas procesorów graficznych Nvidia, z wydajnością do 256 petaflopów (petaFLOPS – liczba operacji zmiennoprzecinkowych na sekundę – jeden petaflop odpowiada 10 biliardom obliczeń na sekundę).

System serwerowy Zalo ma znakomite możliwości przetwarzania.

Jednocześnie zainwestowano w rozwój wysokiej jakości danych szkoleniowych, aby zrekompensować niedobór źródeł danych w języku wietnamskim. Dzięki serii badań przeprowadzonych na małych procesorach graficznych dla konsumentów, inżynierowie Zalo wykorzystali również możliwości zdobycia wiedzy i umiejętności szkoleniowych w zakresie LLM, tworząc fundament gotowy do wykorzystania po nabyciu infrastruktury obliczeniowej na dużą skalę.

Właściwa strategia rozwoju pomogła firmie Zalo w 2023 roku w pomyślnym opracowaniu modelu językowego na dużą skalę, obejmującego 7 miliardów parametrów i koncentrującego się na języku wietnamskim, w zaledwie 6 miesięcy szkolenia. Osiągnęła ona 150% możliwości w porównaniu z modelem GPT3.5 firmy OpenAI w teście VMLU. Obecnie wyprzedziła ona wiele światowych marek w rankingu VMLU 2024 i wdraża swój model badawczy w praktyce.

Model LLM firmy Zalo, gdy po raz pierwszy pojawił się na rynku w 2023 r., konkurował z szeregiem globalnych modeli, takich jak ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT, a także z prawdziwym graczem.

Według Zalo, model LLM będzie nadal inwestował w szkolenia, aby dostarczać użytkownikom więcej światowej klasy aplikacji AI. Umożliwi im to opanowanie zaawansowanej technologii AI, wkraczając w nową erę rozwoju technologicznego kraju, z przełomowym nastawieniem na naukę , technologię, innowacje i krajową transformację cyfrową.

Source: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html