La aplicación del modelo de IA vietnamita está atrayendo millones de visitas.

Desarrollado por el equipo de ingeniería vietnamita de Zalo, el modelo de lenguaje a gran escala, con 13 mil millones de parámetros, impulsa una serie de aplicaciones prácticas que atraen a un gran número de usuarios mensualmente. Una de las más destacadas es el completo asistente de preguntas y respuestas Kiki Info, que funciona como una Cuenta Oficial (OA) en Zalo y ofrece tres funciones: Preguntas y respuestas sobre diversos temas, como ciencia, historia, normas de tránsito, etc.; creación de contenido, como redacción de ensayos, correos electrónicos y publicaciones en redes sociales; y entretenimiento, con sugerencias sobre destinos de viaje, música , libros, etc.

Las estadísticas del equipo de desarrollo muestran que este asistente ha tenido hasta 1 millón de usuarios accediendo a su cuenta oficial de Zalo (OA) en poco menos de 2 meses.

Kiki Info está integrado en la plataforma de mensajería Zalo.

Otra aplicación desarrollada con el amplio modelo de lenguaje de Zalo son las tarjetas de felicitación con IA, que ya han alcanzado los 15 millones de tarjetas creadas y enviadas por los usuarios. Estos datos se recopilaron durante un período de dos meses y muestran que los usuarios utilizan tarjetas de felicitación con IA para felicitar a familiares y amigos en ocasiones importantes.

Estas aplicaciones son muy valoradas por los usuarios por su experiencia inteligente, que ayuda a acortar los tiempos de búsqueda y la toma de decisiones. Además, hacen que la conexión con los demás sea más agradable y atractiva.

El modelo LLM de Zalo se desarrolla utilizando una técnica de entrenamiento cruzado: implementa todos los procesos desde la inicialización de parámetros y la toma de decisiones sobre la arquitectura del modelo hasta los algoritmos de entrenamiento en un conjunto de datos determinado, lo que permite a los usuarios vietnamitas dominar y controlar completamente el proceso de entrenamiento y el modelo.

A finales de 2024, el modelo LLM de Zalo se ubicó entre los dos primeros del ranking VMLU, una plataforma para evaluar y clasificar el dominio del vietnamita de los LLM (Conjunto de Referencia de Comprensión del Lenguaje Multitarea Vietnamita para Modelos Lingüísticos Grandes). En concreto, el modelo de lenguaje grande de Zalo ascendió al segundo puesto en el ranking de modelos entrenados desde cero, solo por detrás de Llama-3-70B de Meta, superando oficialmente a nombres importantes como GPT-4 (OpenAI), gemma-2-9b-it (Google) y microsoft/Phi-3-small-128k-instruct (Microsoft).

El ranking de 2024 de LLM creado desde cero, con el modelo LLM de Zalo en el Top 2.

Este fue un gran éxito para un lenguaje de programación a gran escala desarrollado por vietnamitas, especialmente considerando las numerosas limitaciones que enfrentó en sus etapas iniciales. Si bien grandes empresas de todo el mundo poseían miles de las GPU más recientes de Nvidia, en Vietnam, en ese momento, los ingenieros aún no contaban con la infraestructura de servidores necesaria.

Al mismo tiempo, el vietnamita se encuentra entre los idiomas con recursos de datos mucho más escasos que el inglés o el chino. Además, Vietnam presenta limitaciones en recursos humanos y experiencia en la formación de LLM en comparación con los países desarrollados.

Zalo contaba con una estrategia de desarrollo para superar las limitaciones de su entorno de entrenamiento en comparación con el resto del mundo. Al equipar su infraestructura informática con ocho servidores DGX H100, el modelo LLM se desarrolló directamente utilizando las GPU de Nvidia más nuevas y exclusivas del momento, con un rendimiento de hasta 256 petaFLOPS (operaciones de punto flotante por segundo; un petaFLOP equivale a 10 cuatrillones de cálculos por segundo).

El sistema de servidor de Zalo tiene capacidades de procesamiento superiores.

Simultáneamente, se ha invertido en el desarrollo de datos de entrenamiento de alta calidad para compensar la escasez de fuentes de datos en vietnamita. Mediante una serie de estudios realizados con GPU de consumo de pequeño tamaño, los ingenieros de Zalo también han aprovechado las oportunidades para adquirir conocimientos y capacidades de formación en LLM, creando una base lista para usar cuando adquieran infraestructura informática a gran escala.

La estrategia de desarrollo adecuada ha ayudado a Zalo a desarrollar con éxito un modelo lingüístico a gran escala con 7 mil millones de parámetros centrado en el vietnamita en tan solo 6 meses de entrenamiento en 2023, alcanzando el 150 % de la capacidad en comparación con el GPT3.5 de OpenAI en el benchmark VMLU. Actualmente, ha superado a numerosos nombres globales en el ranking VMLU 2024 y está implementando su modelo de investigación en la práctica para la comunidad.

El modelo LLM de Zalo compitió contra una variedad de modelos globales como ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT y un jugador real cuando se lanzó por primera vez en 2023.

Según Zalo, el modelo LLM seguirá invirtiendo en capacitación para ofrecer a los usuarios más aplicaciones de IA de clase mundial. Esto les permitirá dominar la tecnología avanzada de IA, avanzando hacia una nueva era de desarrollo tecnológico para el país con una orientación innovadora en ciencia , tecnología, innovación y transformación digital nacional.

Fuente: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html