MediaTek utilise la plateforme Llama 2 de Meta pour améliorer l'IA générative

SGGPO 25 août 2023 10:37

MediaTek, la société mondiale de semi-conducteurs, a annoncé qu'elle travaillait en étroite collaboration avec Meta's Llama 2, le modèle de langage étendu open source de nouvelle génération de la société (LLM).

MediaTek vise à construire un écosystème complet d'informatique de périphérie

En utilisant le LLM de Meta ainsi que les APU les plus récents de MediaTek et sa plateforme d'IA NeuroPilot, MediaTek vise à construire un écosystème complet d'informatique de périphérie conçu pour accélérer le développement d'applications d'IA sur les smartphones, l'IoT, les véhicules, les maisons intelligentes et autres appareils d'informatique de périphérie.

Actuellement, la plupart des traitements d'IA générative sont effectués via le cloud. Cependant, l'utilisation des modèles Llama 2 de MediaTek permettra d'exécuter des applications d'IA générative directement sur l'appareil.

Cela offre de nombreux avantages aux développeurs et aux utilisateurs, notamment des performances fluides, une confidentialité accrue, une sécurité et une fiabilité renforcées, une latence réduite, une capacité accrue à travailler dans des zones à connectivité faible ou inexistante et des coûts d'exploitation réduits.

Pour exploiter pleinement l'IA générative sur les dispositifs de périphérie, les fabricants devront adopter des processeurs d'IA haut de gamme à faible consommation et une connectivité plus rapide et plus fiable afin d'améliorer les capacités de calcul. Chaque puce mobile 5G de MediaTek est actuellement équipée d'un APU conçu pour exécuter diverses fonctionnalités d'IA générative, telles que la réduction du bruit et l'amélioration de la résolution.

De plus, le processeur phare de nouvelle génération de MediaTek, dont la sortie est prévue plus tard cette année, intégrera une pile logicielle optimisée pour l'exécution de Llama 2, ainsi qu'un APU amélioré avec accélération par cœur Transformer, une surface et une bande passante DRAM réduites, et des performances LLM et AIGC encore accrues. Ces avancées facilitent le développement rapide de cas d'utilisation d'IA générative embarqués.

MediaTek prévoit que les applications d'IA basées sur Llama 2 seront disponibles sur les smartphones équipés de son SoC phare de nouvelle génération, dont la sortie sur le marché est prévue plus tard cette année.

Source: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html