Aplikasi model AI Vietnam ini menarik jutaan kunjungan.

Dikembangkan oleh tim teknik Zalo asal Vietnam, model bahasa skala besar dengan 13 miliar parameter ini mendorong serangkaian aplikasi praktis yang menarik banyak pengguna setiap bulannya. Salah satu yang menonjol adalah asisten tanya jawab komprehensif Kiki Info, yang beroperasi sebagai Akun Resmi (OA) di Zalo, menawarkan tiga fitur: tanya jawab tentang berbagai topik seperti sains, sejarah, peraturan lalu lintas, dll.; pembuatan konten seperti menulis esai, menyusun email, dan memposting di media sosial; dan hiburan dengan memberikan saran tentang tujuan wisata, musik , buku, dll.

Statistik dari tim pengembang menunjukkan bahwa asisten ini telah diakses oleh hingga 1 juta pengguna melalui Akun Resmi Zalo (OA) mereka hanya dalam waktu kurang dari 2 bulan.

Kiki Info terintegrasi ke dalam platform perpesanan Zalo.

Aplikasi lain yang dikembangkan menggunakan model bahasa besar Zalo adalah kartu ucapan AI, yang kini telah mencapai 15 juta kartu yang dibuat dan dikirim oleh pengguna. Data ini dikumpulkan selama periode dua bulan, menunjukkan pengguna menggunakan kartu ucapan AI untuk mengirimkan ucapan selamat kepada keluarga dan teman pada kesempatan penting.

Aplikasi-aplikasi ini mendapat peringkat tinggi dari pengguna karena pengalaman cerdasnya, yang membantu mempersingkat waktu pencarian dan pengambilan keputusan dalam kehidupan. Aplikasi-aplikasi ini juga membuat terhubung dengan orang lain dan membangun hubungan menjadi lebih menyenangkan dan menarik.

Model LLM Zalo dikembangkan menggunakan teknik pelatihan silang – mengimplementasikan semua proses mulai dari inisialisasi parameter dan pengambilan keputusan arsitektur model hingga pelatihan algoritma pada dataset tertentu, memungkinkan pengguna Vietnam untuk sepenuhnya menguasai dan mengontrol proses pelatihan dan model tersebut.

Pada akhir tahun 2024, model LLM Zalo menempati posisi ke-2 teratas dalam peringkat VMLU – sebuah platform untuk mengevaluasi dan memberi peringkat kemampuan berbahasa Vietnam dari LLM (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Secara spesifik, model bahasa besar Zalo naik ke posisi nomor 2 dalam peringkat model yang dilatih dari awal, hanya di belakang Llama-3-70B milik Meta, secara resmi melampaui nama-nama besar seperti GPT-4 (OpenAI), gemma-2-9b-it (Google), dan microsoft/Phi-3-small-128k-instruct (Microsoft).

Peringkat LLM tahun 2024 yang disusun dari awal, dengan model LLM Zalo berada di 2 besar.

Ini merupakan kesuksesan besar bagi bahasa pemrograman skala besar yang dikembangkan oleh orang Vietnam, terutama mengingat banyaknya keterbatasan yang dihadapinya pada tahap awal. Sementara perusahaan-perusahaan besar di seluruh dunia memiliki ribuan GPU terbaru dari Nvidia, di Vietnam pada saat itu, para insinyur belum dilengkapi dengan infrastruktur server yang diperlukan.

Pada saat yang sama, bahasa Vietnam juga termasuk di antara bahasa-bahasa dengan sumber data yang puluhan kali lebih sedikit daripada bahasa Inggris atau Mandarin. Selain itu, Vietnam juga memiliki keterbatasan sumber daya manusia dan pengalaman dalam pelatihan LLM jika dibandingkan dengan negara-negara maju di seluruh dunia.

Zalo memiliki strategi pengembangan untuk mengatasi keterbatasan lingkungan pelatihannya dibandingkan dengan negara lain di dunia. Dengan melengkapi infrastruktur komputasinya dengan 8 server DGX H100, model LLM dikembangkan langsung menggunakan GPU terbaru dan terlangka dari Nvidia pada saat itu, dengan kinerja hingga 256 petaFLOPS (Operasi Titik Mengambang Per Detik - satu petaFLOP setara dengan 10 kuadriliun perhitungan per detik).

Sistem server Zalo memiliki kemampuan pemrosesan yang unggul.

Bersamaan dengan itu, investasi dalam pengembangan data pelatihan berkualitas tinggi telah dilakukan untuk mengimbangi kekurangan sumber data berbahasa Vietnam. Melalui serangkaian studi yang dilakukan pada GPU konsumen kecil, para insinyur Zalo juga telah memanfaatkan peluang untuk memperoleh pengetahuan dan kemampuan pelatihan dalam LLM, menciptakan fondasi yang siap digunakan ketika mereka memperoleh infrastruktur komputasi skala besar.

Strategi pengembangan yang tepat telah membantu Zalo berhasil mengembangkan model bahasa skala besar dengan 7 miliar parameter yang berfokus pada bahasa Vietnam hanya dalam 6 bulan pelatihan pada tahun 2023, mencapai 150% kemampuan dibandingkan dengan GPT3.5 milik OpenAI pada benchmark VMLU. Saat ini, Zalo telah melampaui banyak nama global dalam peringkat VMLU 2024 dan membawa model penelitiannya ke dalam implementasi praktis untuk masyarakat.

Model LLM Zalo bersaing dengan berbagai model global seperti ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT, dan pemain sungguhan ketika pertama kali diluncurkan pada tahun 2023.

Menurut Zalo, model LLM akan terus menerima investasi dalam pelatihan untuk menghadirkan lebih banyak aplikasi AI kelas dunia kepada pengguna. Hal ini akan memungkinkan mereka untuk menguasai teknologi AI tingkat lanjut, menuju era baru pengembangan teknologi bagi negara dengan orientasi terobosan dalam sains , teknologi, inovasi, dan transformasi digital nasional.

Sumber: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html