Zalo vyvíjí model umělé inteligence vlastněný Vietnamci

(Dan Tri) - Zalo je vietnamský podnik se silnou orientací na technologický rozvoj, kterému se podařilo úspěšně vyvinul domácí model umělé inteligence. Vietnam se tak stal jednou z mála zemí v jihovýchodní Asii, které vlastní model umělé inteligence natrénovaný od nuly.

Zájem světa o umělou inteligenci roste, přičemž většina pozornosti se soustředí na země s mnoha předními světovými modely umělé inteligence, jako jsou USA a Čína. Jihovýchodní Asie – jeden z důležitých ekonomických regionů světa – se postupně stává novým středem zájmu o umělou inteligenci s významným pokrokem, který by mohl zajímat globální tvůrce politik, investory a technologické experty.

Vietnam již má domácí model umělé inteligence, jeden z mála modelů umělé inteligence vyvinutých od nuly v regionu jihovýchodní Asie (Foto: Zalo).

Ve Vietnamu jsou strana a vláda také odhodlány utvářet a podporovat éru technologického rozvoje země, což demonstruje rezoluce 57-NQ/TW o průlomu ve vědeckotechnickém rozvoji, inovacích a národní digitální transformaci. Tato orientace vytvořila silnou hnací sílu pro domácí technologické podniky, aby investovaly a využívaly potenciál pokročilých globálních technologií.

Vietnam se v současné době stal jednou z mála zemí v jihovýchodní Asii, které vlastní domácí model pro velké jazyky (LLM). Konkrétně od roku 2023 Zalo úspěšně vyškolilo a spustilo model LLM zaměřený na vietnamštinu, který byl kompletně vyzkoumán a vyvinut týmem vietnamských inženýrů.

Vyberte si trénink od začátku a dosáhněte nečekaných výsledků

V současné době existují 2 trénovací techniky pro modely umělé inteligence, včetně: techniky jemně doladěného modelu, která optimalizuje dříve trénované LLM za účelem vytvoření nových LLM pro specializované účely; a techniky trénování modelu od nuly, která je procesem vytváření zcela nového modelu, od inicializace parametrů, přes rozhodování o architektuře modelu až po trénovací algoritmus na určité datové sadě.

Mezi nimi mnoho podniků volí techniky jemného doladění kvůli jejich výhodám, jako je snadná implementace, úspora zdrojů a schopnost dosáhnout vyšší efektivity. Zejména v kontextu Vietnamu, kde je školicí vybavení a data omezené, jsou techniky jemného doladění vynikajícím řešením.

Zalo si však od začátku zvolil tuto školicí techniku. Díky této metodě je celý školicí proces a model plně vlastněn a kontrolován Vietnamci. Díky tomu se Vietnam stal jednou z mála zemí v jihovýchodní Asii, které vlastní rozsáhlý jazykový model (LLM) vyvinutý v rámci země.

V době spuštění v roce 2023 dosáhl první rozsáhlý jazykový model společnosti Zalo se 7 miliardami parametrů zaměřených na vietnamštinu 150% výkonu ve srovnání s modelem OpenAI GPT3.5 v benchmarku VMLU Vietnamese LLM Competency Assessment Benchmark. Doba školení trvala pouhých 6 měsíců, což je mnohem kratší doba než původní plán 18 měsíců. Tento rychlý proces školení překvapil celý vývojový tým společnosti Zalo.

Model LLM od Zala se při svém prvním spuštění v roce 2023 umístil na 3. místě v soutěži Kahoot (Foto: Zalo).

V roce 2024 model společnosti Zalo s 13 miliardami parametrů překoná světová jména a upevní si tak svou pozici mezi dvěma nejlepšími vietnamskými modely LLM vyškolenými od nuly v žebříčku kompetencí vietnamského LLM VMLU.

Výsledky ukazují, že úroveň trénování modelů velkých jazyků není horší než světová úroveň pro vývoj vlastního modelu umělé inteligence ve Vietnamu, zejména v kontextu počátečních vývojových obtíží.

Vietnamské úsilí o vývoj modelů umělé inteligence

Zástupce společnosti Zalo uvedl, že vzdělávání v oblasti LLM vyžaduje 3 základní prvky: školicí vybavení, data a technickou úroveň. Dříve ve Vietnamu stále existovala řada omezení ve všech 3 aspektech. Konkrétně zatímco velké společnosti na světě vlastnily tisíce nejnovějších vysoce výkonných grafických karet od společnosti Nvidia, ve Vietnamu inženýři stále nejsou plně vybaveni potřebnou serverovou infrastrukturou. Vietnamci se zároveň řadí do skupiny s horšími datovými zdroji než Angličané nebo Číňané. Vietnamské lidské zdroje a zkušenosti se vzděláváním v oblasti LLM jsou také omezené ve srovnání s rozvinutými zeměmi.

Tým Zalo v té době musel zkoumat a experimentovat s malými civilními grafickými procesory (GPU), aby si získal znalosti a výcvikové schopnosti v oblasti LLM, které by byly připraveny, jakmile bude k dispozici rozsáhlá výpočetní infrastruktura.

Trénovací čipy pro umělou inteligenci jsou vzácné, takže i když si Zalo objednalo 8 serverů Nvidia DGX H100, nemůže vlastnit všechna zařízení najednou a musí čekat na každou várku dodávky od výrobce. Optimalizace neúplné výpočetní infrastruktury pro úsporu času trénování je proto také problémem, který musí tým Zalo vyřešit.

Zároveň se investuje do kvalitních školicích dat, aby se kompenzoval nedostatek vietnamských datových zdrojů.

„Ačkoli byl začátek ve srovnání s velkými světovými společnostmi obtížný, Zalo se i tak rozhodlo zapojit do závodu s cílem úspěšně vyvinout vlastní vietnamský model umělé inteligence. Konzultovali jsme s výzkumníky a inženýry z mnoha předních světových výzkumných ústavů, abychom měli vhodnou strategii rozvoje.“

„Současné milníky úspěchu motivují inženýry společnosti Zalo k další optimalizaci modelu tak, aby byl větší co do množství a lepší co do kvality. Zároveň využívají jeho použitelnost k vytvoření mnoha prvotřídních produktů umělé inteligence pro vietnamské uživatele,“ sdělil Dr. Nguyen Truong Son, ředitel vědy ve společnosti Zalo AI.

Server DGX H100 od Zalo objednaný u Nvidie (Foto: Zalo).

Díky flexibilní adaptaci v obtížných raných fázích vývoje společnost Zalo postupně dosáhla úspěšných milníků a směřuje k zvládnutí globální technologie umělé inteligence v její dnešní podobě.

V současné době je model umělé inteligence společnosti Zalo úspěšný nejen z hlediska výzkumu v oblasti vzdělávání, ale také v praxi, což podporuje přístup a využívání hodnot plynoucích z pokročilých nových technologií pro Vietnamce.

Začátkem tohoto roku spustilo Zalo asistenta pro otázky a odpovědi Kiki Info, který je provozován jako OA – oficiální účet – na platformě pro zasílání zpráv Zalo. Asistent podporuje otázky a odpovědi na různá témata ze života, tvorby obsahu a zábavy. Podle statistik Zalo měl asistent Kiki Info za necelé 2 měsíce přístup k účtu OA na Zalo až 1 milion uživatelů.

Zalův LLM model je aplikován k vývoji Kiki Info Assistant (Foto: Zalo).

Další aplikací modelu LLM od Zala jsou karty s umělou inteligencí, které také dosáhly milníku 15 milionů vytvořených a odeslaných karet za pouhé 2 měsíce. Jedná se o aplikaci, o kterou má zájem mnoho uživatelů Zala, aby mohli posílat přání příbuzným a přátelům k významným svátkům.

V současné době Zalo nadále rozšiřuje a vyvíjí aplikace z velkých jazykových modelů, což slibuje domácím uživatelům mnoho užitečných hodnot.

Zdroj: https://dantri.com.vn/cong-nghe/zalo-phat-trien-mo-hinh-ai-do-nguoi-viet-lam-chu-20250616161352610.htm