MediaTek використовує платформу Meta Llama 2 для покращення генеративного штучного інтелекту

СГГПО 25 серпня 2023 р., 10:37

MediaTek, глобальна компанія з виробництва напівпровідників, оголосила про тісну співпрацю з Llama 2 від Meta, новою моделлю великої мови програмування (LLM) з відкритим кодом.

MediaTek прагне створити повноцінну екосистему периферійних обчислень

Використовуючи ступінь магістра права Meta, а також найновіші процесори APU та платформу штучного інтелекту NeuroPilot від MediaTek, MediaTek прагне створити повноцінну екосистему периферійних обчислень, призначену для пришвидшення розробки додатків штучного інтелекту для смартфонів, Інтернету речей, транспортних засобів, розумних будинків та інших пристроїв периферійних обчислень.

Наразі більшість генеративної обробки ШІ виконується через хмару. Однак використання моделей Llama 2 від MediaTek дозволить генеративним ШІ-додаткам запускатися безпосередньо на пристрої.

Це пропонує низку переваг для розробників і користувачів, включаючи плавну роботу, покращену конфіденційність, більшу безпеку та надійність, меншу затримку, розширену можливість роботи в місцях з невеликим або відсутнім підключенням та нижчі експлуатаційні витрати.

Щоб по-справжньому скористатися перевагами генеративного штучного інтелекту на периферійних обчислювальних пристроях, виробникам периферійних пристроїв потрібно буде впровадити високоякісні, енергоємні процесори штучного інтелекту та швидше й надійніше підключення для покращення обчислювальних можливостей. Кожен мобільний чіп MediaTek 5G сьогодні оснащений APU, призначеними для виконання різноманітних функцій генеративного штучного інтелекту, таких як зменшення шуму за допомогою штучного інтелекту, покращення роздільної здатності за допомогою штучного інтелекту тощо.

Крім того, флагманський процесор MediaTek наступного покоління, який, як очікується, буде представлений пізніше цього року, матиме оптимізований програмний стек для роботи Llama 2, а також оновлений APU з прискоренням ядра Transformer, зменшеним використанням площі DRAM та пропускної здатності, а також додатково покращеною продуктивністю LLM та AIGC. Ці досягнення сприяють швидкому розвитку сценаріїв використання генеративного штучного інтелекту на пристроях.

MediaTek очікує, що додатки штучного інтелекту на базі Llama 2 будуть доступні на смартфонах, оснащених флагманським SoC наступного покоління, який, як очікується, з'явиться на ринку пізніше цього року.

Джерело