СГГПО
MediaTek, глобальная компания по производству полупроводников, объявила о тесном сотрудничестве с Meta Llama 2 — открытой языковой моделью следующего поколения (LLM).
MediaTek стремится создать полноценную экосистему периферийных вычислений |
Используя LLM от Meta, а также новейшие APU и платформу искусственного интеллекта NeuroPilot от MediaTek, компания MediaTek стремится создать полноценную экосистему периферийных вычислений, предназначенную для ускорения разработки приложений искусственного интеллекта для смартфонов, Интернета вещей, транспортных средств, умных домов и других периферийных вычислительных устройств.
В настоящее время большая часть обработки Generative AI выполняется через облако. Однако использование моделей Llama 2 от MediaTek позволит запускать приложения Generative AI непосредственно на устройстве.
Это обеспечивает ряд преимуществ для разработчиков и пользователей, включая плавную работу, улучшенную конфиденциальность, большую безопасность и надежность, меньшую задержку, расширенные возможности работы в зонах с ограниченным или отсутствующим подключением, а также меньшие эксплуатационные расходы.
Чтобы по-настоящему использовать генеративный ИИ на периферийных вычислительных устройствах, производителям периферийных устройств необходимо будет внедрить высокопроизводительные маломощные процессоры ИИ и более быструю и надежную связь для улучшения вычислительных возможностей. Каждый из мобильных чипов MediaTek 5G сегодня оснащен APU, разработанными для выполнения различных функций генеративного ИИ, таких как шумоподавление ИИ, улучшение разрешения ИИ и многое другое.
Кроме того, флагманский процессор MediaTek следующего поколения, который, как ожидается, будет представлен в конце этого года, будет иметь оптимизированный программный стек для запуска Llama 2, а также модернизированный APU с ускорением ядра Transformer, уменьшенной областью DRAM и использованием полосы пропускания, а также еще более улучшенной производительностью LLM и AIGC. Эти усовершенствования способствуют быстрой разработке вариантов использования генеративного ИИ на устройстве.
MediaTek ожидает, что приложения искусственного интеллекта на базе Llama 2 будут доступны на смартфонах, оснащенных ее флагманской SoC следующего поколения, выход которой на рынок ожидается в конце этого года.
Источник
Комментарий (0)