MediaTek utilise la plateforme Llama 2 de Meta pour améliorer l'IA générative

SGGPO 25 août 2023, 10h37

MediaTek, la société mondiale de semi-conducteurs, vient d'annoncer qu'elle travaille en étroite collaboration avec Meta's Llama 2, le langage de programmation à grande échelle open source de nouvelle génération de la société (LLM).

MediaTek ambitionne de construire un écosystème complet d'informatique de périphérie.

S'appuyant sur le LLM de Meta, ainsi que sur les APU les plus récents de MediaTek et la plateforme d'IA NeuroPilot, MediaTek vise à construire un écosystème complet d'informatique de périphérie conçu pour stimuler le développement d'applications d'IA sur les smartphones, l'IoT, les véhicules, les maisons intelligentes et autres appareils d'informatique de périphérie.

Actuellement, la plupart des traitements d'IA générative sont effectués via le cloud computing. Cependant, l'utilisation des modèles Llama 2 de MediaTek permettra aux applications d'IA générative de s'exécuter directement sur les appareils.

Cela offre plusieurs avantages aux développeurs et aux utilisateurs, notamment des performances plus fluides, une confidentialité accrue, une sécurité et une fiabilité renforcées, une latence réduite, une capacité de travail accrue dans les zones à faible ou sans connectivité et des coûts d'exploitation réduits.

Pour exploiter pleinement la technologie générative de l'IA sur les dispositifs de périphérie, les fabricants devront adopter des processeurs d'IA haute performance et basse consommation, ainsi qu'une connectivité plus rapide et plus fiable afin d'améliorer les capacités de calcul. Chaque puce mobile 5G actuellement proposée par MediaTek est équipée d'APU conçus pour exécuter diverses fonctionnalités génératives d'IA, telles que la réduction du bruit et l'amélioration de la résolution.

De plus, le processeur phare de nouvelle génération de MediaTek, dont la sortie est prévue plus tard cette année, intégrera une pile logicielle optimisée pour l'exécution de Llama 2, ainsi qu'un APU amélioré avec accélération par cœur Transformer, une surface d'accès et une utilisation de la bande passante DRAM réduites, et des performances LLM et AIGC encore optimisées. Ces avancées facilitent le développement rapide de cas d'utilisation pour la génération d'IA embarquée.

MediaTek prévoit que les applications d'IA basées sur Llama 2 seront disponibles sur les smartphones équipés du SoC phare de nouvelle génération, dont le lancement est prévu plus tard cette année.

Source: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html