MediaTek використовує платформу Meta Llama 2 для покращення генеративного штучного інтелекту

СГГПО 25.08.2023 10:37

MediaTek, глобальна компанія з виробництва напівпровідників, оголосила про тісну співпрацю з Llama 2 від Meta, новою моделлю великої мови програмування (LLM) з відкритим кодом.

MediaTek прагне створити повноцінну екосистему периферійних обчислень

Використовуючи ступінь магістра права Meta, а також найновіші процесори APU та платформу штучного інтелекту NeuroPilot від MediaTek, MediaTek прагне створити повноцінну екосистему периферійних обчислень, призначену для пришвидшення розробки додатків штучного інтелекту для смартфонів, Інтернету речей, транспортних засобів, розумних будинків та інших пристроїв периферійних обчислень.

Наразі більшість обробки даних за допомогою генеративного штучного інтелекту здійснюється через хмару. Однак використання моделей Llama 2 від MediaTek дозволить програмам генеративного штучного інтелекту запускатися безпосередньо на пристрої.

Це пропонує низку переваг для розробників і користувачів, включаючи плавну роботу, покращену конфіденційність, більшу безпеку та надійність, меншу затримку, розширену можливість роботи в місцях з невеликим або відсутнім підключенням та нижчі експлуатаційні витрати.

Щоб по-справжньому використовувати генеративний штучний інтелект на периферійних обчислювальних пристроях, виробникам периферійних пристроїв потрібно буде впровадити високоякісні, енергоємні процесори штучного інтелекту та швидше й надійніше з'єднання для покращення обчислювальних можливостей. Кожен мобільний чіп MediaTek 5G сьогодні оснащений APU, призначеними для виконання різноманітних функцій генеративного штучного інтелекту, таких як зменшення шуму за допомогою штучного інтелекту, покращення роздільної здатності за допомогою штучного інтелекту тощо.

Крім того, флагманський процесор MediaTek наступного покоління, який, як очікується, буде представлений пізніше цього року, матиме оптимізований програмний стек для роботи Llama 2, а також оновлений APU з прискоренням ядра Transformer, зменшеним використанням площі DRAM та пропускної здатності, а також додатково покращеною продуктивністю LLM та AIGC. Ці досягнення сприяють швидкому розвитку сценаріїв використання генеративного штучного інтелекту на пристроях.

MediaTek очікує, що додатки штучного інтелекту на базі Llama 2 будуть доступні на смартфонах, оснащених флагманським SoC наступного покоління, який, як очікується, з'явиться на ринку пізніше цього року.

Джерело