MediaTek использует платформу Llama 2 от Meta для улучшения генеративного ИИ

SGGPO 25 августа 2023 г., 10:37 утра

Компания MediaTek, мировой производитель полупроводников, только что объявила о тесном сотрудничестве с Meta и ее языком программирования Llama 2, открытым языком программирования нового поколения для крупномасштабных вычислений (LLM).

Компания MediaTek стремится создать полноценную экосистему граничных вычислений.

Используя технологию LLM от Meta, а также новейшие APU от MediaTek и платформу искусственного интеллекта NeuroPilot, MediaTek стремится создать полноценную экосистему граничных вычислений, предназначенную для стимулирования разработки приложений искусственного интеллекта в смартфонах, устройствах Интернета вещей, транспортных средствах, умных домах и других устройствах граничных вычислений.

В настоящее время большая часть обработки данных в рамках генеративного ИИ осуществляется с помощью облачных вычислений. Однако использование моделей MediaTek Llama 2 позволит запускать приложения генеративного ИИ непосредственно на устройствах.

Это предоставляет разработчикам и пользователям ряд преимуществ, включая более плавную работу, улучшенную конфиденциальность, повышенную безопасность и надежность, меньшую задержку, улучшенную работоспособность в районах с плохим или отсутствующим подключением к сети, а также снижение эксплуатационных расходов.

Для того чтобы в полной мере использовать возможности генеративных технологий ИИ на периферийных вычислительных устройствах, производителям таких устройств потребуется внедрить высокопроизводительные, энергоэффективные процессоры ИИ и более быстрые и надежные средства связи для расширения вычислительных возможностей. Каждый мобильный чип 5G, предлагаемый в настоящее время компанией MediaTek, оснащен APU, предназначенными для выполнения различных функций генерации ИИ, таких как шумоподавление с помощью ИИ и повышение разрешения с помощью ИИ.

Кроме того, флагманский процессор MediaTek следующего поколения, который, как ожидается, будет представлен позже в этом году, будет включать программный стек, оптимизированный для работы с Llama 2, а также модернизированный APU с ускорением ядра Transformer, уменьшенной областью доступа и использованием полосы пропускания DRAM, а также дополнительно улучшенной производительностью LLM и AIGC. Эти достижения способствуют быстрой разработке сценариев использования для генерации ИИ на устройствах.

Компания MediaTek ожидает, что приложения искусственного интеллекта на базе Llama 2 будут доступны на смартфонах, оснащенных флагманским процессором SoC следующего поколения, запуск которых ожидается позднее в этом году.

Источник