Bruken av den vietnamesiske AI-modellen tiltrekker seg millioner av besøk.

Den storskala språkmodellen, som er utviklet av Zalos vietnamesiske ingeniørteam, med 13 milliarder parametere, driver en rekke praktiske applikasjoner som tiltrekker seg et stort antall brukere månedlig. En som skiller seg ut er Kiki Infos omfattende spørsmål-og-svar-assistent, som fungerer som en offisiell konto (OA) på Zalo, og tilbyr tre funksjoner: spørsmål-og-svar om ulike emner som vitenskap, historie, trafikklover osv.; innholdsproduksjon som å skrive essays, skrive e-poster og legge ut på sosiale medier; og underholdning ved å gi forslag til reisemål, musikk , bøker osv.

Statistikk fra utviklingsteamet viser at denne assistenten har hatt opptil 1 million brukere som har tilgang til sin offisielle Zalo-konto (OA) på litt under 2 måneder.

Kiki Info er integrert i Zalo-meldingsplattformen.

En annen applikasjon utviklet med Zalos store språkmodell er AI-hilsenskort, som nå har nådd 15 millioner kort laget og sendt av brukere. Disse dataene ble samlet inn over en tomåneders periode, og viser brukere som bruker AI-hilsenskort til å sende ønsker til familie og venner ved viktige anledninger.

Disse appene er høyt rangert av brukere for sin intelligente opplevelse, noe som bidrar til å forkorte søketider og beslutningstaking i livet. De gjør det også mer hyggelig og engasjerende å komme i kontakt med andre og bygge relasjoner.

Zalos LLM-modell er utviklet ved hjelp av en krysstreningsteknikk – implementering av alle prosesser fra parameterinitialisering og beslutningstaking om modellarkitektur til treningsalgoritmer på et gitt datasett, slik at vietnamesiske brukere fullt ut kan mestre og kontrollere treningsprosessen og modellen.

Ved utgangen av 2024 endte Zalos LLM-modell på topp 2-plassering på VMLU-rangeringen – en plattform for å evaluere og rangere vietnamesisk språkferdighet hos LLM-er (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Mer spesifikt steg Zalos store språkmodell til nummer 2-plassering i rangeringen av modeller trent fra bunnen av, bare bak Metas Llama-3-70B, og overgikk offisielt store navn som GPT-4 (OpenAI), gemma-2-9b-it (Google) og microsoft/Phi-3-small-128k-instruct (Microsoft).

Rangeringen av LLM-er i 2024 er bygget fra bunnen av, med Zalos LLM-modell blant de to beste.

Dette var en enorm suksess for et storstilt programmeringsspråk utviklet av vietnamesere, spesielt med tanke på de mange begrensningene det møtte i sine tidlige stadier. Mens store selskaper over hele verden eide tusenvis av de nyeste GPU-ene fra Nvidia, var ingeniørene i Vietnam på den tiden ennå ikke utstyrt med den nødvendige serverinfrastrukturen.

Samtidig er vietnamesisk også rangert blant språk med dataressurser som er dusinvis av ganger dårligere enn engelsk eller kinesisk. I tillegg har Vietnam også begrensninger i menneskelige ressurser og erfaring med å utdanne LLM-er sammenlignet med utviklede land rundt om i verden.

Zalo hadde en utviklingsstrategi for å overvinne begrensningene i treningsmiljøet sitt sammenlignet med resten av verden. Ved å utstyre datainfrastrukturen sin med 8 DGX H100-servere, ble LLM-modellen utviklet direkte ved hjelp av Nvidias nyeste og sjeldneste GPU-er på den tiden, med ytelse opptil 256 petaFLOPS (flytende kommaoperasjoner per sekund – én petaFLOP tilsvarer 10 kvadrillioner beregninger per sekund).

Zalos serversystem har overlegne prosesseringsegenskaper.

Samtidig er det investert i utvikling av høykvalitets treningsdata for å kompensere for mangelen på vietnamesiskspråklige datakilder. Gjennom en rekke studier utført på små forbruker-GPU-er har Zalos ingeniører også benyttet seg av mulighetene til å tilegne seg kunnskap og opplæringsmuligheter innen LLM, og dermed skapt et grunnlag klart for bruk når de anskaffer storskala datainfrastruktur.

Den rette utviklingsstrategien har hjulpet Zalo med å utvikle en storskala språkmodell med 7 milliarder parametere med fokus på vietnamesisk på bare 6 måneder med opplæring i 2023, og oppnådde 150 % av kapasiteten sammenlignet med OpenAIs GPT3.5 på VMLU-referanseindeksen. For øyeblikket har de overgått en rekke globale navn på VMLU 2024-rangeringen og setter forskningsmodellen sin i praksis i samfunnet.

Zalos LLM-modell konkurrerte mot en rekke globale modeller som ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT og en ekte spiller da den først ble lansert i 2023.

Ifølge Zalo vil LLM-modellen fortsette å motta investeringer i opplæring for å bringe flere AI-applikasjoner i verdensklasse til brukerne. Dette vil gjøre dem i stand til å mestre avansert AI-teknologi, og dermed bevege seg mot en ny æra av teknologisk utvikling for landet med en banebrytende orientering innen vitenskap , teknologi, innovasjon og nasjonal digital transformasjon.

Kilde: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html