Применение вьетнамской модели искусственного интеллекта привлекает миллионы посещений

Разработанная вьетнамцами Большая языковая модель (LLM) развертывает ряд полезных приложений для удовлетворения потребностей пользователей в поиске информации и общении, регистрируя миллионы посещений.

Применение вьетнамской модели искусственного интеллекта привлекает миллионы посещений

Разработанная вьетнамской инженерной группой Zalo, большая языковая модель с 13 миллиардами параметров приносит ряд практических приложений, которые привлекают большое количество пользователей для посещения и использования каждый месяц. В частности, помощник вопросов и ответов Kiki Info работает как OA - официальный аккаунт на Zalo, предоставляя набор из 3 функций, включая вопросы и ответы по различным темам, таким как наука, история, правила дорожного движения...; Создание контента, такого как написание, составление электронных писем, размещение в социальных сетях...; и Развлечения, предлагая рекомендации по туристическим направлениям, музыке , книгам...

Статистика команды разработчиков показывает, что менее чем за 2 месяца к учетной записи OA этого помощника на Zalo обратилось до 1 миллиона пользователей.

Kiki Info интегрирована в платформу обмена сообщениями Zalo.

Другое приложение, также разработанное большой языковой моделью Zalo, — это AI-карты, которые теперь достигли 15 миллионов карт, созданных и отправленных пользователями. Это данные, собранные в течение 2 месяцев, пользователи используют AI-карты для отправки пожеланий родственникам и друзьям в важные праздники.

Приложения высоко ценятся пользователями за их интеллектуальный опыт, помогающий сократить время, затрачиваемое на поиск и принятие решений в жизни. В то же время, это помогает сделать установление отношений более интересным и увлекательным.

Модель LLM от Zalo разработана с использованием методики обучения с нуля — реализуя все процессы от инициализации параметров, выбора архитектуры модели до алгоритмов обучения на заданном наборе данных, помогая вьетнамцам полностью освоить и контролировать процесс обучения, а также модель.

В конце 2024 года модель LLM Zalo заняла 2-е место в рейтинге VMLU — Vietnamese Multitask Language Understanding Benchmark Suite for Large Language Models (LLMs) — платформы для оценки и ранжирования уровня владения вьетнамским языком. В частности, большая языковая модель Zalo поднялась на 2-е место в рейтинге моделей, обученных с нуля, сразу за Llama-3-70B от Meta, официально превзойдя такие громкие имена, как GPT-4 (OpenAI), gemma-2-9b-it (Google), microsoft/Phi-3-small-128k-instruct (Microsoft).

Рейтинг LLM 2024 года, созданный с нуля с использованием модели LLM Zalo, вошел в топ-2.

Это большой успех для большой языковой модели, разработанной вьетнамцами, особенно когда она столкнулась со множеством ограничений на ранних этапах разработки. В то время как крупные компании мира владели тысячами новейших графических процессоров от Nvidia, во Вьетнаме в то время инженеры не были полностью оснащены необходимой серверной инфраструктурой.

В то же время вьетнамский также входит в группу с ресурсами данных в десятки раз хуже, чем английский или китайский. Кроме того, Вьетнам также имеет ограничения в человеческих ресурсах и опыте обучения LLM по сравнению с развитыми странами мира.

У Zalo есть стратегия развития, направленная на преодоление ограничений учебной среды по сравнению с миром. Оснастив вычислительную инфраструктуру 8 серверами DGX H100, модель LLM была разработана напрямую с использованием новейшей и самой дефицитной на тот момент линейки GPU Nvidia с производительностью до 256 петафлопс (операций с плавающей точкой в ​​секунду — один петафлопс эквивалентен 10 миллионам миллиардов вычислений в секунду).

Серверная система Zalo обладает превосходной вычислительной мощностью.

В то же время качественные данные для обучения также инвестируются, чтобы компенсировать отсутствие вьетнамских источников данных. Благодаря серии исследований, проведенных на небольших гражданских графических процессорах, инженеры Zalo также воспользовались возможностью вооружиться знаниями и возможностями для обучения LLM для создания готовой платформы, как только они станут владельцами крупной вычислительной инфраструктуры.

Правильная ориентация разработки помогла Zalo успешно разработать большую языковую модель с 7 миллиардами параметров, ориентированную на вьетнамский язык, всего за 6 месяцев обучения в 2023 году, достигнув 150% мощности по сравнению с OpenAI GPT3.5 на VMLU Benchmark. И теперь она превзошла ряд мировых имен в рейтинге VMLU 2024, одновременно внедряя исследовательскую модель в практическое развертывание для сообщества.

Модель LLM от Zalo конкурирует с рядом моделей в мире, таких как ChatGPT 3.5, ChatGPT 4.0, Llama, PhoGPT и настоящим игроком, первый запуск которого запланирован на 2023 год.

По словам Зало, модель LLM будет продолжать инвестироваться в обучение, чтобы предоставить пользователям больше приложений ИИ мирового класса. Таким образом, осваивая передовые технологии ИИ, стремясь к эпохе технологического развития страны с прорывной ориентацией в науке , технологиях, инновациях и национальной цифровой трансформации.

Источник: https://znews.vn/ung-dung-cua-mo-hinh-ai-viet-dang-thu-hut-hang-trieu-luot-truy-cap-post1563330.html