MediaTek використовує платформу Meta Llama 2 для покращення генерації штучного інтелекту.

СГГПО 25 серпня 2023 р., 10:37 ранку

MediaTek, глобальна компанія з виробництва напівпровідників, щойно оголосила про тісну співпрацю з Llama 2 від Meta, мовою програмування нового покоління з відкритим кодом для розробки великомасштабних програм (LLM).

MediaTek прагне створити повноцінну екосистему периферійних обчислень.

Використовуючи програму LLM від Meta, а також найновіші APU від MediaTek та платформу штучного інтелекту NeuroPilot, MediaTek прагне створити повноцінну екосистему периферійних обчислень, призначену для стимулювання розробки додатків штучного інтелекту для смартфонів, Інтернету речей, транспортних засобів, розумних будинків та інших пристроїв периферійних обчислень.

Наразі більшість генеративної обробки ШІ здійснюється за допомогою хмарних обчислень. Однак використання моделей Llama 2 від MediaTek дозволить генеративним ШІ-додаткам запускатися безпосередньо на пристроях.

Це пропонує кілька переваг для розробників і користувачів, включаючи плавнішу роботу, покращену конфіденційність, більшу безпеку та надійність, меншу затримку, підвищену працездатність у місцях з невеликим або відсутнім підключенням та нижчі експлуатаційні витрати.

Щоб по-справжньому використовувати генеративні технології штучного інтелекту на пристроях периферійних обчислень, виробникам цих пристроїв потрібно буде впровадити високопродуктивні, енергоспоживаючі процесори штучного інтелекту та швидше й надійніше підключення для покращення обчислювальних можливостей. Кожен мобільний чіп 5G, який зараз пропонує MediaTek, оснащений APU, призначеними для виконання різноманітних генеративних функцій штучного інтелекту, таких як шумозаглушення та покращення роздільної здатності за допомогою штучного інтелекту.

Крім того, флагманський процесор MediaTek наступного покоління, який, як очікується, буде представлений пізніше цього року, матиме програмний стек, оптимізований для роботи Llama 2, а також оновлений APU з прискоренням ядра Transformer, мінімізованою областю доступу та використанням пропускної здатності DRAM, а також додатково покращену продуктивність LLM та AIGC. Ці досягнення сприяють швидкому розвитку сценаріїв використання для генерації штучного інтелекту на пристроях.

MediaTek очікує, що програми штучного інтелекту на базі Llama 2 будуть доступні на смартфонах, оснащених флагманським SoC наступного покоління, запуск яких очікується пізніше цього року.

Джерело