Zalo dan perjalanan mengatasi halangan untuk menakluki aspirasi domestik

Ketika dunia memerhatikan kemajuan pesat dalam bidang AI kuasa besar, pasukan kejuruteraan teknologi Zalo memulakan perjalanan cita-cita: Menguasai kecerdasan buatan dalam bahasa Vietnam.

Ledakan kecerdasan buatan generatif (Generative AI) telah mengubah sepenuhnya landskap teknologi global.

Sejak OpenAI melancarkan ChatGPT pada penghujung 2022, satu siri model LLM yang serupa telah terus muncul, digunakan dalam banyak bidang seperti penjagaan kesihatan, pendidikan , kewangan, undang-undang... Perlumbaan telah menjadi sengit, bukan sahaja pada skala perusahaan tetapi juga pada skala nasional dari segi kapasiti latihan, infrastruktur pengkomputeran dan data.

Syarikat-syarikat besar seperti OpenAI, Google, Meta atau Microsoft yang mempunyai potensi kewangan dan keadaan yang menggalakkan telah melabur berbilion-bilion dolar "dengan pantas" untuk memiliki beribu-ribu GPU mewah seperti Nvidia H100 - faktor teras untuk melatih model LLM. Harga saham Nvidia melonjak dalam tempoh itu, mencerminkan kehausan dunia terhadap infrastruktur.

Sementara itu, syarikat teknologi di negara membangun, selain isu kos, juga menghadapi sekatan ke atas mengimport dan mengeksport peralatan cip AI dari AS. Ini membawa kepada kekurangan peralatan latihan dan menjadi "lebih perlahan" berbanding dengan gergasi teknologi. Dengan aspirasi domestik, Zalo tidak terkecuali.

Dari segi data, masalah pembelajaran mesin sebelumnya memerlukan sejumlah besar data latihan, tetapi untuk model bahasa yang besar, ini adalah jumlah data yang besar. Untuk mempunyai model yang cukup baik, sistem LLM memerlukan berpuluh atau bahkan ratusan bilion token teks input. Manakala dari segi populariti, bahasa Vietnam tidak "setanding" dengan bahasa Inggeris dan Cina. Ini telah melipatgandakan kesukaran bagi pemaju LLM Vietnam.

Pada tahun 2023, model bahasa besar (LLM) seperti GPT-3.5, GPT-4 telah melanda dunia teknologi, dan banyak perusahaan Vietnam juga telah memilih model yang ditala halus buatan asing untuk mengambil jalan pintas dan maju dalam proses latihan LLM.

Zalo memilih jalan yang berbeza - lebih sukar, tetapi lebih autonomi: Melatih diri model dari awal (model dari awal). Laluan yang memerlukan segala-galanya dibina dari awal - daripada data, seni bina model hingga keseluruhan proses latihan. Keputusan itu bukan untuk bersaing dengan gergasi tetapi untuk merealisasikan aspirasi rakyat Vietnam: menguasai model LLM dalam bahasa ibunda mereka.

"Kami menjangkakan kesukaran dan masih memutuskan untuk menyertai permainan lebih awal. Kami tidak bersaing secara langsung dengan "orang besar" tetapi memilih pasaran khusus di mana kami boleh melakukan yang lebih baik. Aspirasi kami adalah untuk membina model yang dikawal sepenuhnya oleh orang Vietnam - daripada data kepada algoritma," kongsi Dr. Nguyen Truong Son, Pengarah Sains di Zalo AI.

Walaupun menghadapi banyak halangan dalam tiga faktor utama termasuk infrastruktur, data dan tahap latihan, jurutera Vietnam telah secara proaktif mencari penyelesaian untuk mengatasi kesukaran. Ini menunjukkan semangat dan kemahuan rakyat Vietnam dalam keadaan sukar, khususnya dalam kes ini, menakluki cabaran dalam proses membangunkan LLM untuk rakyat Vietnam.

Untuk melatih LLM, jurutera memerlukan infrastruktur yang betul. Tetapi pada masa itu, GPU seperti Nvidia's H100 hampir "jarang global". Sementara itu, syarikat besar telah membuat pra-pesanan selama setahun dan membayar berjuta-juta dolar untuk memilikinya. Di Vietnam, Zalo juga cuba membeli 8 pelayan DGX H100 tetapi ia tidak mudah, perlu menunggu setiap kumpulan penghantaran daripada pengeluar.

Dengan ketiadaan GPU Nvidia, jurutera Vietnam terpaksa menggunakan GPU pengguna secara fleksibel untuk mencuba setiap baris kod dan menjalankan setiap model kecil. Daripada menunggu, jurutera bersedia secara proaktif supaya apabila mereka mempunyai peralatan moden, semuanya akan siap.

Dari segi data, daripada bergantung pada sumber yang ada, Zalo melabur dalam membina gudang data berkualiti tinggi khusus untuk orang Vietnam, bagi menampung kekurangan yang serius berbanding bahasa Inggeris dan Cina.

Terima kasih kepada strategi pembangunan fleksibelnya, Zalo telah berjaya memendekkan masa pembangunan model bahasa besarnya daripada jangkaan 18 bulan kepada 6 bulan. Pada penghujung tahun 2023, model bahasa besar Vietnam Zalo telah dilancarkan secara rasmi pada acara yang mengumpulkan teknologi terkemuka dan komuniti AI di Vietnam - Sidang Kemuncak AI Zalo. Di sini, model LLM Zalo membuat debutnya menerusi cabaran Kahoot yang ditetapkan oleh Tinhte.vn dan secara mengejutkan melepasi GPT 3.5, hanya di belakang GPT4 - model LLM yang dianggap paling kuat di dunia pada masa itu.

Berdasarkan platform penilaian VMLU (Suit Penanda Aras Pemahaman Bahasa Pelbagai Tugas Vietnam untuk Model Bahasa Besar), model Zalo adalah 1.5 kali lebih berkuasa daripada GPT-3.5 OpenAI. Menjelang akhir tahun 2024, model ini akan mengatasi nama besar seperti GPT-4 (OpenAI), Gemma-2-9B (Google) atau Phi-3-small (Microsoft), hanya di belakang LLaMA-3-70B Meta dari segi keupayaan pemprosesan Vietnam pada kedudukan VMLU.

Tidak hanya berhenti pada penyelidikan, Zalo secara beransur-ansur menghidupkan teknologi dari makmal dengan mengkomersialkan dan mempopularkan produk aplikasi daripada LLM.

Pada awal 2025, pembantu Soal Jawab am Kiki Info - beroperasi sebagai akaun rasmi pada platform Zalo - menarik lebih daripada 1 juta pengguna dalam masa kurang daripada 2 bulan. Satu lagi aplikasi, Thiep AI, juga mencapai jumlah yang mengagumkan iaitu 15 juta kad yang dicipta dan dihantar dalam masa 2 bulan sahaja.

Perjalanan Zalo bukan hanya mengenai syarikat yang ingin membangunkan teknologi. Ia adalah sebahagian daripada gambaran yang lebih besar - di mana Vietnam mempromosikan inovasi secara agresif, dengan dasar daripada Resolusi 57-NQ/TW mengenai pembangunan sains dan teknologi serta transformasi digital negara. Khususnya, bidang kecerdasan buatan ditekankan.

Kemunculan dan perkembangan pesat LLM Vietnam dari Zalo bukan sahaja satu langkah ke hadapan teknologi untuk perniagaan, tetapi juga bukti keupayaan dan ketabahan yang wujud dalam pasukan teknologi Vietnam.

Dengan teknik "dari awal" - melatih model dari awal, Zalo memilih jalan yang jauh, tetapi membantu Vietnam benar-benar menguasai AI. Bukan sahaja dari segi hasil, tetapi juga dari segi keseluruhan proses daripada seni bina model, data, algoritma, kepada produk aplikasi. Kejayaan Zalo juga telah membantu Vietnam menjadi salah satu daripada beberapa negara Asia Tenggara yang memiliki model LLM domestik - satu pencapaian strategik dalam konteks persaingan teknologi global yang semakin sengit.

Dalam perjalanan yang jauh ke hadapan, Zalo bukan sahaja akan berhenti pada satu model atau beberapa produk tetapi akan terus menyempurnakan model untuk kedua-dua memberi perkhidmatan kepada pengguna dan mencipta platform AI Vietnam dengan kualiti yang kompetitif: "Perjalanan pembangunan AI Zalo masih panjang. Kami akan terus mengoptimumkan model dalam kedua-dua keluasan dan kedalaman, sambil mempromosikan aplikasi praktikal. Matlamat utama adalah untuk mencipta produk AI berkualiti yang praktikal memberi perkhidmatan kepada rakyat Vietnam," tambah Encik Son.

Kejayaan pembangunan LLM Vietnam Zalo bukan sahaja satu kejayaan untuk perniagaan, tetapi juga membuka potensi masa depan untuk kecerdasan buatan Vietnam. Ketabahan dan aspirasi rakyat Vietnam telah memimpin perjalanan untuk mencapai keputusan yang layak. Masa depan AI Vietnam bukan sahaja akan mempunyai "Zalo", tetapi juga generasi jurutera yang berani untuk mengikuti, mewarisi dan menakluki dunia teknologi.

Sumber: https://znews.vn/zalo-va-hanh-trinh-lam-chu-llm-tieng-viet-post1561765.html