Застосування в'єтнамської моделі штучного інтелекту приваблює мільйони відвідувань.

Розроблена в'єтнамцями велика мовна модель (LLM) розгорнула низку корисних програм, що задовольняють потреби користувачів у пошуку інформації та комунікації, реєструючи мільйони відвідувань.

Застосування в'єтнамської моделі штучного інтелекту приваблює мільйони відвідувань.

Розроблена в'єтнамською командою інженерів Zalo, масштабна мовна модель з 13 мільярдами параметрів забезпечує низку практичних застосувань, які щомісяця приваблюють велику кількість користувачів. Особливістю є комплексний помічник із питань та відповідей Kiki Info, який працює як офіційний обліковий запис (ОА) на Zalo та пропонує три функції: питання та відповіді на різні теми, такі як наука, історія, правила дорожнього руху тощо; створення контенту, такого як написання есе, написання електронних листів та публікація в соціальних мережах; та розваги, надаючи пропозиції щодо туристичних напрямків, музики , книг тощо.

Статистика команди розробників показує, що цей помічник мав доступ до свого офіційного облікового запису Zalo (OA) до 1 мільйона користувачів трохи менше ніж за 2 місяці.

Kiki Info інтегровано в платформу обміну повідомленнями Zalo.

Ще один застосунок, розроблений з використанням великої мовної моделі Zalo, – це вітальні листівки зі штучним інтелектом, кількість яких вже сягнула 15 мільйонів, створених та надісланих користувачами. Ці дані збиралися протягом двох місяців і показують, що користувачі використовують вітальні листівки зі штучним інтелектом для надсилання побажань родині та друзям з важливих подій.

Ці додатки високо оцінюються користувачами за їхній інтелектуальний досвід, який допомагає скоротити час пошуку та прийняття рішень у житті. Вони також роблять спілкування з іншими приємнішим та цікавішим.

Модель LLM Zalo розроблена з використанням методу перехресного навчання – реалізації всіх процесів, від ініціалізації параметрів та прийняття рішень щодо архітектури моделі до алгоритмів навчання на заданому наборі даних, що дозволяє в'єтнамським користувачам повністю опанувати та контролювати процес навчання та модель.

Наприкінці 2024 року модель LLM від Zalo посіла друге місце в рейтингу VMLU – платформи для оцінки та ранжування рівня володіння в'єтнамською мовою за допомогою LLM (Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models). Зокрема, модель Zalo для великих мов піднялася на друге місце в рейтингу моделей, навчених з нуля, поступившись лише Llama-3-70B від Meta, офіційно випередивши такі відомі розробники, як GPT-4 (OpenAI), gemma-2-9b-it (Google) та microsoft/Phi-3-small-128k-instruct (Microsoft).

Рейтинг програм магістратури права (LLM) за 2024 рік, побудованих з нуля, де модель LLM від Zalo потрапила до першої двійки.

Це був величезний успіх для масштабної мови програмування, розробленої в'єтнамцями, особливо враховуючи численні обмеження, з якими вона зіткнулася на ранніх стадіях. Хоча великі компанії по всьому світу володіли тисячами найновіших графічних процесорів від Nvidia, у В'єтнамі на той час інженери ще не були оснащені необхідною серверною інфраструктурою.

Водночас, в'єтнамська мова також належить до мов з ресурсами даних, які в десятки разів бідніші, ніж англійська чи китайська. Крім того, В'єтнам також має обмеження в людських ресурсах та досвіді підготовки спеціалістів з права (LLM) порівняно з розвиненими країнами світу.

Zalo мала стратегію розвитку, спрямовану на подолання обмежень свого навчального середовища порівняно з рештою світу. Оснастивши свою обчислювальну інфраструктуру 8 серверами DGX H100, модель LLM була розроблена безпосередньо з використанням найновіших та найрідкісніших на той час графічних процесорів Nvidia, з продуктивністю до 256 петафлопс (операцій з плаваючою комою за секунду - один петафлопс еквівалентний 10 квадрильйонам обчислень за секунду).

Серверна система Zalo має чудові обчислювальні можливості.

Одночасно було здійснено інвестиції в розробку високоякісних навчальних даних, щоб компенсувати дефіцит джерел даних в'єтнамською мовою. Завдяки серії досліджень, проведених на невеликих споживчих графічних процесорах, інженери Zalo також скористалися можливостями для отримання знань та навчальних можливостей з LLM, створивши основу, готову до використання, коли вони придбають великомасштабну обчислювальну інфраструктуру.

Правильна стратегія розвитку допомогла Zalo успішно розробити масштабну мовну модель із 7 мільярдами параметрів, зосереджену на в'єтнамській мові, лише за 6 місяців навчання у 2023 році, досягнувши 150% можливостей порівняно з OpenAI GPT3.5 у бенчмарку VMLU. Наразі вона перевершила численні світові імена в рейтингу VMLU 2024 і впроваджує свою дослідницьку модель у практичне впровадження для спільноти.

Модель LLM від Zalo конкурувала з низкою глобальних моделей, таких як ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT та реальним гравцем, коли вона була вперше запущена у 2023 році.

За словами Зало, модель магістра права (LLM) продовжуватиме отримувати інвестиції в навчання, щоб запропонувати користувачам більше сучасних програм штучного інтелекту. Це дозволить їм опанувати передові технології штучного інтелекту, рухаючись до нової ери технологічного розвитку країни з проривною орієнтацією на науку , технології, інновації та національну цифрову трансформацію.

Джерело: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html