Zalo dezvoltă un model de inteligență artificială deținut de vietnamezi

(Dan Tri) - Cu o orientare puternică către dezvoltarea tehnologică, Zalo este o întreprindere vietnameză care a dezvoltat cu succes un model intern de inteligență artificială. Astfel, Vietnamul este una dintre puținele țări din Asia de Sud-Est care deține un model de inteligență artificială antrenat de la zero.

Interesul mondial pentru inteligența artificială este în creștere, cea mai mare parte a atenției fiind concentrată asupra țărilor cu multe dintre modelele de inteligență artificială de top la nivel mondial, cum ar fi SUA și China. Asia de Sud-Est – una dintre regiunile economice importante ale lumii – devine treptat un nou punct fierbinte pentru inteligența artificială, cu progrese majore care ar putea interesa factorii de decizie politică, investitorii și experții în tehnologie la nivel mondial.

Vietnamul are deja un model intern de inteligență artificială, unul dintre puținele modele de inteligență artificială dezvoltate de la zero în regiunea Asiei de Sud-Est în prezent (Foto: Zalo).

În Vietnam, Partidul și Guvernul sunt, de asemenea, hotărâte să modeleze și să promoveze era dezvoltării tehnologice a țării, demonstrată prin Rezoluția 57-NQ/TW privind progresele în dezvoltarea științei și tehnologiei, inovarea și transformarea digitală națională. Această orientare a creat o forță motrice puternică pentru ca întreprinderile tehnologice autohtone să investească și să exploateze potențialul tehnologiei globale avansate.

În prezent, Vietnamul a devenit una dintre puținele țări din Asia de Sud-Est care dețin un model lingvistic larg (LLM) intern. Mai exact, din 2023, Zalo a instruit și lansat cu succes un model LLM axat pe limba vietnameză, cercetat și dezvoltat în întregime de o echipă de ingineri vietnamezi.

Alege antrenamentul de la început și obține rezultate neașteptate

În prezent, modelele de inteligență artificială au 2 tehnici de antrenament, inclusiv: tehnica modelului fin reglat este metoda de optimizare a LLM-urilor antrenate anterior pentru a crea noi LLM-uri în scopuri specializate; tehnica de antrenament al modelului de la zero este procesul de construire a unui model complet nou, de la inițializarea parametrilor, decizia asupra arhitecturii modelului până la algoritmul de antrenament pe un anumit set de date.

Printre acestea, tehnicile de reglare fină sunt alese de multe companii datorită avantajelor lor, cum ar fi implementarea ușoară, economisirea resurselor și capacitatea de a oferi o eficiență mai bună. În special, în contextul Vietnamului, unde echipamentele și datele de instruire sunt limitate, tehnicile de reglare fină reprezintă o soluție superioară.

Totuși, Zalo a ales această tehnică de instruire de la bun început. Cu această metodă, întregul proces și model de instruire sunt deținute și controlate în întregime de poporul vietnamez. Datorită acestui fapt, Vietnamul a devenit una dintre puținele țări din Asia de Sud-Est care dețin un model lingvistic extins (LLM) dezvoltat pe plan intern.

La momentul lansării în 2023, primul model lingvistic la scară largă al Zalo, cu 7 miliarde de parametri axat pe limba vietnameză, a atins o performanță de 150% în comparație cu GPT3.5 al OpenAI pe testul VMLU Vietnamese LLM Competency Assessment Benchmark. Timpul de instruire a durat doar 6 luni, mult mai scurt decât planul inițial de 18 luni. Acest proces rapid de instruire a surprins întreaga echipă de dezvoltare de la Zalo.

Modelul LLM al Zalo s-a clasat pe locul 3 în provocarea Kahoot la prima sa lansare din 2023 (Foto: Zalo).

În 2024, modelul Zalo cu 13 miliarde de parametri va depăși numele mari din lume , afirmându-și poziția de top 2 modele vietnameze LLM instruite de la zero în clasamentul competențelor LLM vietnameze al VMLU.

Rezultatele arată că nivelul de antrenament al modelelor lingvistice mari nu este inferior celui mondial pentru a dezvolta un model de inteligență artificială propriu Vietnamului, în special în contextul dificultăților inițiale de dezvoltare.

Eforturile vietnameze de a dezvolta modele de inteligență artificială

Reprezentantul Zalo a declarat că pregătirea pentru LLM necesită 3 elemente de bază: echipament de instruire, date și nivel tehnic. Anterior, în Vietnam existau încă multe limitări în toate cele 3 aspecte. Mai exact, în timp ce marile companii din lume dețineau mii de GPU-uri de înaltă performanță de la Nvidia, în Vietnam inginerii încă nu sunt complet echipați cu infrastructura de server necesară. În același timp, vietnamezii se clasează și în grupul cu resurse de date mai slabe decât engleza sau chineza. Resursele umane și experiența în pregătirea LLM a Vietnamului sunt, de asemenea, limitate în comparație cu țările dezvoltate.

Echipa Zalo de la acea vreme a trebuit să cerceteze și să experimenteze pe GPU-uri civile de mici dimensiuni pentru a se dota cu cunoștințe și capacități de instruire LLM, gata imediat ce o infrastructură de calcul extinsă era disponibilă.

Cipurile de antrenament pentru inteligența artificială sunt rare, așa că, deși Zalo a comandat 8 servere Nvidia DGX H100, nu poate deține toate dispozitivele simultan și trebuie să aștepte fiecare lot livrat de la producător. Prin urmare, optimizarea infrastructurii de calcul incomplete pentru a economisi timp de instruire este, de asemenea, o problemă pe care echipa Zalo trebuie să o rezolve.

În același timp, se investește și în date de instruire de calitate pentru a compensa deficitul de surse de date vietnameze.

„Deși punctul de plecare a fost dificil în comparație cu marile companii din lume, Zalo a decis totuși să se alăture cursei cu scopul de a dezvolta cu succes propriul model de inteligență artificială al Vietnamului. Ne-am consultat cu cercetători și ingineri de la multe institute de cercetare de top din lume pentru a avea o strategie de dezvoltare adecvată.”

„Momentele de succes actuale sunt motivația inginerilor Zalo de a continua să optimizeze modelul pentru a fi mai mare cantitativ și mai bun calitativ. În același timp, să exploateze aplicabilitatea pentru a crea multe produse de inteligență artificială de clasă mondială pentru utilizatorii vietnamezi”, a declarat Dr. Nguyen Truong Son, director științific la Zalo AI.

Serverul DGX H100 Zalo comandat de la Nvidia (Foto: Zalo).

Datorită adaptării flexibile în etapele dificile inițiale ale dezvoltării, Zalo a atins treptat etape importante, îndreptându-se către stăpânirea tehnologiei globale de inteligență artificială așa cum este ea astăzi.

În prezent, modelul de inteligență artificială al lui Zalo nu are succes doar în ceea ce privește cercetarea în domeniul formării, ci și în ceea ce privește aplicarea, promovând accesul și exploatarea valorii noilor tehnologii avansate pentru vietnamezi.

La începutul acestui an, Zalo a lansat Asistentul de Întrebări și Răspunsuri Kiki Info, care funcționează ca un Cont Oficial - OA - pe platforma de mesagerie Zalo. Asistentul oferă suport pentru întrebări și răspunsuri pe diverse teme din viață, crearea de conținut și divertisment. Conform statisticilor Zalo, asistentul Kiki Info a avut până la 1 milion de utilizatori care au accesat contul OA pe Zalo în mai puțin de 2 luni.

Modelul LLM al Zalo este aplicat pentru a dezvolta Kiki Info Assistant (Foto: Zalo).

O altă aplicație a modelului LLM Zalo sunt cardurile cu inteligență artificială, care au atins și ele pragul de 15 milioane de felicitări create și trimise în doar 2 luni. Aceasta este o aplicație de care mulți utilizatori Zalo sunt interesați pentru a trimite urări rudelor și prietenilor cu ocazia sărbătorilor importante.

În prezent, aplicațiile din modele lingvistice mari continuă să fie extinse și dezvoltate de Zalo, promițând să aducă multe valori utile utilizatorilor casnici.

Sursă: https://dantri.com.vn/cong-nghe/zalo-phat-trien-mo-hinh-ai-do-nguoi-viet-lam-chu-20250616161352610.htm