Tillämpningen av den vietnamesiska AI-modellen lockar miljontals besök.

Den storskaliga språkmodellen, som utvecklats av Zalos vietnamesiska ingenjörsteam, med 13 miljarder parametrar driver en rad praktiska tillämpningar som lockar ett stort antal användare varje månad. En som sticker ut är Kiki Infos omfattande fråge- och svarsassistent, som fungerar som ett officiellt konto (OA) på Zalo och erbjuder tre funktioner: frågor och svar om olika ämnen som vetenskap, historia, trafiklagar etc.; innehållsskapande som att skriva uppsatser, skriva e-postmeddelanden och posta på sociala medier; och underhållning genom att ge förslag på resmål, musik , böcker etc.

Statistik från utvecklingsteamet visar att den här assistenten har haft upp till 1 miljon användare som har åtkomst till sitt officiella Zalo-konto (OA) på knappt 2 månader.

Kiki Info är integrerat i Zalos meddelandeplattform.

En annan applikation som utvecklats med Zalos stora språkmodell är AI-hälsningskort, som nu har nått 15 miljoner kort skapade och skickade av användare. Denna data sammanställdes under en tvåmånadersperiod och visar hur användare använder AI-hälsningskort för att skicka önskningar till familj och vänner vid viktiga tillfällen.

Dessa appar får höga betyg av användarna för sin intelligenta upplevelse, vilket hjälper till att förkorta söktider och beslutsfattande i livet. De gör det också roligare och mer engagerande att få kontakt med andra och bygga relationer.

Zalos LLM-modell är utvecklad med hjälp av en korsträningsteknik – där alla processer implementeras, från parameterinitialisering och beslutsfattande kring modellarkitektur till träningsalgoritmer, på en given datauppsättning, vilket gör det möjligt för vietnamesiska användare att fullt ut behärska och kontrollera träningsprocessen och modellen.

I slutet av 2024 slutade Zalos LLM-modell på topp 2-position på VMLU-rankingen – en plattform för att utvärdera och rangordna LLM:ers vietnamesiska språkkunskaper (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Mer specifikt steg Zalos stora språkmodell till andraplatsen i rankingen av modeller som tränats från grunden, bara bakom Metas Llama-3-70B, och överträffade officiellt stora namn som GPT-4 (OpenAI), gemma-2-9b-it (Google) och microsoft/Phi-3-small-128k-instruct (Microsoft).

2024 års ranking av juridikexamina byggd från grunden, med Zalos LLM-modell bland de två bästa.

Detta var en enorm framgång för ett storskaligt programmeringsspråk som utvecklats av vietnameser, särskilt med tanke på de många begränsningar det mötte i sina tidiga skeden. Medan stora företag världen över ägde tusentals av de senaste grafikkorten från Nvidia, var ingenjörerna i Vietnam vid den tiden ännu inte utrustade med den nödvändiga serverinfrastrukturen.

Samtidigt rankas vietnamesiska också bland språk med dataresurser som är dussintals gånger sämre än engelska eller kinesiska. Dessutom har Vietnam begränsningar i mänskliga resurser och erfarenhet av att utbilda juristexperter jämfört med utvecklade länder runt om i världen.

Zalo hade en utvecklingsstrategi för att övervinna begränsningarna i sin träningsmiljö jämfört med resten av världen. Genom att utrusta sin datorinfrastruktur med 8 DGX H100-servrar utvecklades LLM-modellen direkt med hjälp av Nvidias nyaste och mest sällsynta GPU:er vid den tiden, med prestanda upp till 256 petaFLOPS (flyttalsoperationer per sekund - en petaFLOP motsvarar 10 kvadriljoner beräkningar per sekund).

Zalos serversystem har överlägsna bearbetningsmöjligheter.

Samtidigt har investeringar gjorts i utveckling av högkvalitativ träningsdata för att kompensera för bristen på vietnamesiska datakällor. Genom en serie studier som genomförts på små konsument-GPU:er har Zalos ingenjörer också utnyttjat möjligheterna att förvärva kunskap och utbildningskapacitet inom juridik, vilket skapar en grund redo att användas när de förvärvar storskalig datorinfrastruktur.

Rätt utvecklingsstrategi har hjälpt Zalo att framgångsrikt utveckla en storskalig språkmodell med 7 miljarder parametrar med fokus på vietnamesiska på bara 6 månaders utbildning år 2023, och uppnådde 150 % av kapaciteten jämfört med OpenAI:s GPT3.5 på VMLU-riktmärket. För närvarande har företaget överträffat många globala namn på VMLU 2024-rankningen och omsätter sin forskningsmodell i praktisk implementering för gemenskapen.

Zalos LLM-modell tävlade mot en rad globala modeller som ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT och en riktig spelare när den först lanserades 2023.

Enligt Zalo kommer LLM-modellen att fortsätta investeras i utbildning för att ge användarna fler AI-applikationer i världsklass. Detta kommer att göra det möjligt för dem att bemästra avancerad AI-teknik och därmed gå mot en ny era av teknisk utveckling för landet med en banbrytande inriktning på vetenskap , teknologi, innovation och nationell digital transformation.

Källa: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html