A vietnami mesterséges intelligencia modell alkalmazása több millió látogatót vonz.

Egy vietnamiak által kifejlesztett nagy nyelvi modell (LLM) számos hasznos alkalmazást telepített, amelyek a felhasználók információkeresési és kommunikációs igényeit szolgálják ki, több millió látogatást rögzítve.

A vietnami mesterséges intelligencia modell alkalmazása több millió látogatót vonz.

A Zalo vietnami mérnökcsapata által fejlesztett, nagyméretű, 13 milliárd paraméterrel rendelkező nyelvi modell számos gyakorlati alkalmazást hajt végre, amelyek havonta nagyszámú felhasználót vonzanak. Kiemelkedő a Kiki Info átfogó kérdés-válasz asszisztense, amely hivatalos fiókként (OA) működik a Zalo-n, és három funkciót kínál: kérdések és válaszok különböző témákban, például tudomány, történelem, közlekedési szabályok stb.; tartalomkészítés, például esszék írása, e-mailek írása és közösségi médiában való közzététel; és szórakoztatás utazási célpontokra, zenére , könyvekre stb. vonatkozó javaslatokkal.

A fejlesztőcsapat statisztikái azt mutatják, hogy ennek az asszisztensnek alig 2 hónap alatt akár 1 millió felhasználója is hozzáfért a Zalo hivatalos fiókjához (OA).

A Kiki Info integrálva van a Zalo üzenetküldő platformba.

Egy másik, a Zalo nagyméretű nyelvi modelljével fejlesztett alkalmazás a mesterséges intelligencia által létrehozott üdvözlőlapok, amelyek száma mára elérte a 15 milliót a felhasználók által létrehozott és elküldött kártyából. Ezeket az adatokat két hónapos időszakra gyűjtötték össze, és azt mutatják, hogy a felhasználók mesterséges intelligencia által létrehozott üdvözlőlapokkal küldtek jókívánságokat családtagjaiknak és barátaiknak fontos alkalmakkor.

Ezeket az alkalmazásokat a felhasználók magasra értékelik intelligens élményük miatt, amely segít lerövidíteni a keresési időt és a döntéshozatalt az életben. Emellett élvezetesebbé és lebilincselőbbé teszik a másokkal való kapcsolattartást és a kapcsolatok építését.

A Zalo LLM modelljét kereszt-tanítási technikával fejlesztették ki – a paraméterek inicializálásától és a modellarchitektúra döntéshozatalától kezdve az összes folyamatot egy adott adathalmazon valósították meg, lehetővé téve a vietnami felhasználók számára, hogy teljes mértékben elsajátítsák és irányítsák a betanítási folyamatot és a modellt.

2024 végén a Zalo LLM modellje a VMLU rangsorának – az LLM-ek vietnami nyelvi jártasságának értékelésére és rangsorolására szolgáló platformnak (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models) – a top 2 helyen végzett. Konkrétan a Zalo nagy nyelvi modellje a 2. helyre emelkedett a nulláról betanított modellek rangsorában, csak a Meta Llama-3-70B modellje mögött, hivatalosan is megelőzve olyan nagy neveket, mint a GPT-4 (OpenAI), a gemma-2-9b-it (Google) és a microsoft/Phi-3-small-128k-instruct (Microsoft).

A 2024-es, teljesen új LLM-ek rangsora, a Zalo LLM modelljével a top 2-ben.

Ez hatalmas siker volt egy vietnamiak által fejlesztett nagyszabású programozási nyelv számára, különösen figyelembe véve a korai szakaszában tapasztalt számos korlátot. Míg világszerte a nagyvállalatok több ezer legújabb Nvidia GPU-val rendelkeztek, Vietnámban akkoriban a mérnökök még nem rendelkeztek a szükséges szerverinfrastruktúrával.

Ugyanakkor a vietnami nyelv azon nyelvek közé tartozik, amelyek adatforrásai tucatszor szegényebbek, mint az angol vagy a kínai. Ezenkívül Vietnamnak korlátozottak az emberi erőforrásai és a jogi mesterképzésben szerzett tapasztalatai a világ fejlett országaihoz képest.

A Zalo fejlesztési stratégiával rendelkezett, hogy leküzdje a képzési környezetének a világ többi részéhez képest fennálló korlátait. Azzal, hogy számítási infrastruktúráját 8 DGX H100 szerverrel szerelte fel, az LLM modellt közvetlenül az Nvidia akkori legújabb és legritkább GPU-ival fejlesztették ki, akár 256 petaFLOP (lebegőpontos művelet másodpercenként - egy petaFLOP másodpercenként 10 kvadrillió számításnak felel meg) teljesítményével.

A Zalo szerverrendszere kiváló feldolgozási képességekkel rendelkezik.

Ezzel egyidejűleg beruházásokat hajtottak végre kiváló minőségű betanítási adatok fejlesztésébe, hogy kompenzálják a vietnami nyelvű adatforrások hiányát. A kis fogyasztói GPU-kon végzett tanulmányok sorozatán keresztül a Zalo mérnökei kihasználták a lehetőségeket, hogy ismereteket és képzési képességeket szerezzenek az LLM területén, létrehozva egy olyan alapot, amely készen áll a használatra, amikor nagyméretű számítástechnikai infrastruktúrát szereznek be.

A megfelelő fejlesztési stratégia segített a Zalo-nak 2023-ban mindössze 6 hónapnyi betanítás alatt sikeresen kifejleszteni egy nagyméretű, 7 milliárd paraméterrel rendelkező, vietnami nyelvre fókuszáló nyelvi modellt, amely a VMLU benchmarkon az OpenAI GPT3.5-ös verziójához képest 150%-os képességet ért el. Jelenleg számos globális nevet előzött meg a VMLU 2024-es rangsorában, és kutatási modelljét a gyakorlatba is átülteti a közösség számára.

A Zalo LLM modellje számos globális modellel versenyzett, mint például a ChatGPT 3.5, a ChatGPT 4.0, a Llama, a PhoGPT, és egy valódi játékossal is, amikor 2023-ban először elindult.

Zalo szerint az LLM modell továbbra is befektetéseket kap a képzésbe, hogy több világszínvonalú MI-alkalmazást tudjon eljuttatni a felhasználókhoz. Ez lehetővé teszi számukra, hogy elsajátítsák a fejlett MI-technológiát, és az ország technológiai fejlődésének új korszakába lépjenek, áttörést hozva a tudomány , a technológia, az innováció és a nemzeti digitális átalakulás terén.

Forrás: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html