Aplikace vietnamského modelu umělé inteligence přitahuje miliony návštěv.

Rozsáhlý jazykový model s 13 miliardami parametrů, vyvinutý vietnamským inženýrským týmem společnosti Zalo, pohání řadu praktických aplikací, které měsíčně přitahují velké množství uživatelů. Vynikající je komplexní asistent pro otázky a odpovědi Kiki Info, který funguje jako oficiální účet (OA) na platformě Zalo a nabízí tři funkce: otázky a odpovědi na různá témata, jako je věda, historie, dopravní předpisy atd.; tvorbu obsahu, jako je psaní esejů, e-mailů a zveřejňování příspěvků na sociálních sítích; a zábavu s poskytováním tipů na cestovní destinace, hudbu , knihy atd.

Statistiky vývojového týmu ukazují, že k oficiálnímu účtu Zalo (OA) tohoto asistenta přistoupilo za necelé 2 měsíce až 1 milion uživatelů.

Kiki Info je integrována do platformy pro zasílání zpráv Zalo.

Další aplikací vyvinutou s využitím modelu velkých jazyků Zalo jsou blahopřání s umělou inteligencí, která již dosáhla 15 milionů vytvořených a odeslaných uživateli. Tato data byla shromažďována po dobu dvou měsíců a ukazují, že uživatelé používají blahopřání s umělou inteligencí k posílání přání rodině a přátelům při důležitých příležitostech.

Tyto aplikace jsou uživateli vysoce hodnoceny pro jejich inteligentní zážitek, který pomáhá zkrátit dobu hledání a rozhodování v životě. Díky nim je také navazování kontaktů s ostatními a budování vztahů příjemnější a poutavější.

Zalův LLM model je vyvinut s využitím techniky křížového trénování – implementuje všechny procesy od inicializace parametrů a rozhodování o architektuře modelu až po trénovací algoritmy na dané datové sadě, což umožňuje vietnamským uživatelům plně zvládnout a řídit trénovací proces a model.

Na konci roku 2024 se model LLM od Zala umístil na prvních 2 místech v žebříčku VMLU – platformy pro hodnocení a seřazení znalostí vietnamského jazyka pomocí LLM (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Konkrétně se model pro velké jazyky od Zala posunul na 2. místo v žebříčku modelů trénovaných od nuly, hned za model Llama-3-70B od Mety, čímž oficiálně překonal velká jména jako GPT-4 (OpenAI), gemma-2-9b-it (Google) a microsoft/Phi-3-small-128k-instruct (Microsoft).

Žebříček programů LLM vytvořených od nuly pro rok 2024, přičemž model LLM od Zala se umístil v první dvojce.

Pro rozsáhlý programovací jazyk vyvinutý Vietnamci se jednalo o obrovský úspěch, zejména vzhledem k četným omezením, kterým v raných fázích čelil. Zatímco velké společnosti po celém světě vlastnily tisíce nejnovějších grafických karet od Nvidie, ve Vietnamu v té době inženýři ještě nebyli vybaveni potřebnou serverovou infrastrukturou.

Zároveň se vietnamština řadí mezi jazyky s datovými zdroji, které jsou desítkykrát chudší než angličtina nebo čínština. Vietnam má navíc ve srovnání s rozvinutými zeměmi světa také omezené lidské zdroje a zkušenosti s výukou programů LLM.

Společnost Zalo měla vývojovou strategii, jak překonat omezení svého školicího prostředí ve srovnání se zbytkem světa. Vybavením své výpočetní infrastruktury 8 servery DGX H100 byl model LLM vyvinut přímo s využitím nejnovějších a v té době nejvzácnějších grafických procesorů Nvidia s výkonem až 256 petaFLOPS (operací s plovoucí desetinnou čárkou za sekundu - jeden petaFLOP odpovídá 10 kvadrilionům výpočtů za sekundu).

Serverový systém Zalo má vynikající výpočetní kapacitu.

Současně byly investovány do vývoje vysoce kvalitních trénovacích dat, aby se kompenzoval nedostatek datových zdrojů ve vietnamštině. Prostřednictvím série studií provedených na malých spotřebitelských GPU využili inženýři společnosti Zalo příležitosti k získání znalostí a trénovacích schopností v oblasti LLM, čímž si vytvořili základ připravený k použití při pořízení rozsáhlé výpočetní infrastruktury.

Správná vývojová strategie pomohla společnosti Zalo v roce 2023 úspěšně vyvinout rozsáhlý jazykový model se 7 miliardami parametrů zaměřených na vietnamštinu během pouhých 6 měsíců školení, čímž dosáhla 150 % kapacity ve srovnání s OpenAI GPT3.5 v benchmarku VMLU. V současné době překonala řadu světových jmen v žebříčku VMLU 2024 a svůj výzkumný model uvádí do praxe pro komunitu.

Model LLM od Zala konkuroval řadě globálních modelů, jako jsou ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT a také jednomu skutečnému hráči, když byl poprvé spuštěn v roce 2023.

Podle Zala bude model LLM i nadále investován do vzdělávání, aby uživatelům přinesl více aplikací umělé inteligence světové úrovně. To jim umožní zvládnout pokročilé technologie umělé inteligence a posunout se vstříc nové éře technologického rozvoje země s průlomovou orientací na vědu , technologie, inovace a národní digitální transformaci.

Komentář (0)