Global interesse for AI vokser, med mest oppmerksomhet rettet mot land med ledende AI-modeller, som USA og Kina. Sørøst-Asia – en av verdens viktigste økonomiske regioner – er gradvis i ferd med å bli et nytt AI-hotspot, med betydelige fremskritt som kan tiltrekke seg oppmerksomhet fra beslutningstakere, investorer og teknologieksperter over hele verden.
I Vietnam er partiet og regjeringen også fast bestemt på å forme og fremme landets teknologiske utviklingsæra, noe som ble demonstrert gjennom resolusjon 57-NQ/TW om gjennombrudd innen vitenskap , teknologi, innovasjon og nasjonal digital transformasjon. Denne orienteringen har skapt sterk drivkraft for innenlandske teknologibedrifter til å investere i og utnytte potensialet i avanserte globale teknologier.
Vietnam er for tiden et av få land i Sørøst-Asia som har en nasjonal stor språkmodell (LLM). Mer spesifikt har Zalo siden 2023 med hell trent og lansert en LLM-modell fokusert på vietnamesisk språk, forsket på og utviklet utelukkende av et team av vietnamesiske ingeniører.
Velg å trene fra bunnen av, og resultatene er overraskende.
For tiden bruker AI-modeller to treningsteknikker: finjustert modellering, som optimaliserer tidligere trente LLM-er for å lage nye LLM-er for spesifikke formål; og modellering fra bunnen av, en prosess med å bygge helt nye modeller, fra parameterinitialisering og modellarkitekturbeslutninger til trening av algoritmer på et gitt datasett.
Blant disse velges finjusteringsteknikker av mange bedrifter på grunn av fordelene deres, som enkel implementering, ressursbesparelser og potensial for bedre resultater. Spesielt i Vietnam, hvor treningsutstyr og data er begrenset, er finjusteringsteknikker en overlegen løsning.
Zalo valgte imidlertid å lære opp fra bunnen av. Med denne metoden eies og kontrolleres hele opplæringsprosessen og -modellen fullstendig av vietnameserne. Som et resultat har Vietnam blitt et av få land i Sørøst-Asia som har en innenlandsutviklet stor språkmodell (LLM).
Ved lanseringen i 2023 oppnådde Zalos første storskala språkmodell med 7 milliarder parametere, med fokus på vietnamesisk, 150 % av sine funksjoner sammenlignet med OpenAIs GPT3.5 på den vietnamesiske LLM-kompetansevurderingsstandarden VMLU. Opplæringstiden tok bare 6 måneder, betydelig kortere enn det opprinnelige estimatet på 18 måneder. Denne raske opplæringsprosessen overrasket til og med utviklingsteamet hos Zalo.
Zalos LLM-modell ble rangert som nummer 3 i Kahoot-utfordringen ved lanseringen i 2023 (Foto: Zalo).
I 2024 overgikk Zalos modell med 13 milliarder parametere store globale navn og sikret seg topp 2-plasseringen blant vietnamesiske LLM-modeller for nybegynneropplæring på VMLUs rangering av vietnamesiske LLM-ferdigheter.
Resultatene viser at Vietnams opplæringsnivå i storskala språkmodellering er sammenlignbart med verdens standarder for utvikling av sin egen AI-modell, spesielt gitt de innledende utfordringene i utviklingen.
Det vietnamesiske folkets innsats for å utvikle AI-modeller.
Ifølge en representant for Zalo krever opplæring for LLM-programmet tre kjerneelementer: opplæringsutstyr, data og teknisk ekspertise. Tidligere møtte Vietnam betydelige begrensninger på alle tre områdene. Spesielt mens store globale selskaper eide tusenvis av de nyeste høyytelses-GPU-ene fra Nvidia, manglet vietnamesiske ingeniører den nødvendige serverinfrastrukturen. Samtidig hadde vietnamesere et mindre rikelig databasseng sammenlignet med engelskmenn eller kinesere. Videre var Vietnams menneskelige ressurser og erfaring innen LLM-opplæring også begrenset sammenlignet med utviklede land.
Zalo-teamet måtte på den tiden forske på og eksperimentere med små forbruker-GPU-er for raskt å tilegne seg kunnskap og opplæringsmuligheter for LLM, klare til bruk så snart storskala datainfrastruktur ble tilgjengelig.
AI-treningsbrikker er mangelvare, så selv om Zalo har bestilt åtte Nvidia DGX H100-servere, kan de ikke motta alle enhetene samtidig og må vente på leveranser fra produsenten i omganger. Derfor er det også en utfordring som Zalo-teamet må løse å optimalisere den ufullstendige datainfrastrukturen for å utnytte treningstiden.
Samtidig investeres det i utvikling av opplæringsdata av høy kvalitet for å kompensere for mangelen på vietnamesiskspråklige datakilder.
«Til tross for betydelige utfordringer sammenlignet med større globale selskaper, bestemte Zalo seg for å gå inn i markedet med mål om å lykkes med å utvikle sin egen AI-modell i Vietnam. Vi konsulterte forskere og ingeniører ved ledende forskningsinstitusjoner over hele verden for å utvikle en passende strategi.»
«De suksessrike milepælene så langt motiverer Zalos ingeniører til å fortsette å optimalisere modellen for å bli større i kvantitet og bedre i kvalitet. Samtidig utnytter vi applikasjonene for å lage flere AI-produkter i verdensklasse for vietnamesiske brukere», delte Dr. Nguyen Truong Son, vitenskapsdirektør ved Zalo AI.
Zalo bestilte DGX H100-serveren fra Nvidia (Foto: Zalo).
Takket være den fleksible tilpasningen i de utfordrende tidlige utviklingsstadiene, har Zalo gradvis oppnådd suksessmilepæler og har utviklet seg til å mestre global AI-teknologi slik den gjør i dag.
For tiden er Zalos AI-modell ikke bare vellykket innen forskning og opplæring, men blir også brukt, og fremmer tilgang til og utnyttelse av verdien av avanserte nye teknologier for vietnamesere.
Tidligere i år lanserte Zalo Kiki Info, en omfattende spørsmål-og-svar-assistent som fungerer som en offisiell konto (OA) på Zalos meldingsplattform. Assistenten støtter spørsmål-og-svar om ulike emner knyttet til livet, innholdsproduksjon og underholdning. I følge Zalos statistikk har Kiki Info hatt 1 million brukere som har tilgang til OA-kontoen sin på Zalo på under to måneder.
Zalos LLM-modell ble brukt til å utvikle Kiki Info Assistant (Foto: Zalo).
En annen anvendelse av Zalos LLM-modell er AI-hilsenskort, som også nådde 15 millioner kort laget og sendt på bare to måneder. Denne applikasjonen har fått betydelig oppmerksomhet fra Zalo-brukere for å sende hilsener til familie og venner ved viktige anledninger.
For tiden fortsetter Zalo å utvide og utvikle applikasjoner basert på sin store språkmodell, og lover å gi mange nyttige fordeler til innenlandske brukere.
Kilde: https://dantri.com.vn/cong-nghe/zalo-phat-develop-ai-do-nguoi-viet-lam-chu-20250616161352610.htm
Kommentar (0)