MediaTek utiliza la plataforma Llama 2 de Meta para mejorar la IA generativa

SGGPO 25 de agosto de 2023, 10:37

MediaTek, la compañía global de semiconductores, ha anunciado que está trabajando estrechamente con Llama 2 de Meta, el modelo de lenguaje grande (LLM) de código abierto de próxima generación de la compañía.

MediaTek aspira a construir un ecosistema completo de computación en el borde.

Utilizando la tecnología LLM de Meta, así como las últimas APU de MediaTek y la plataforma de IA NeuroPilot, MediaTek pretende construir un ecosistema completo de computación perimetral diseñado para acelerar el desarrollo de aplicaciones de IA en teléfonos inteligentes, IoT, vehículos, hogares inteligentes y otros dispositivos de computación perimetral.

Actualmente, la mayor parte del procesamiento de IA generativa se realiza a través de la nube. Sin embargo, el uso de los modelos Llama 2 de MediaTek permitirá que las aplicaciones de IA generativa se ejecuten directamente en el dispositivo.

Esto ofrece una serie de beneficios para desarrolladores y usuarios, incluyendo un rendimiento fluido, mayor privacidad, más seguridad y confiabilidad, menor latencia, mayor capacidad para trabajar en áreas con poca o ninguna conectividad y menores costos operativos.

Para aprovechar al máximo la IA generativa en dispositivos de computación perimetral, los fabricantes deberán adoptar procesadores de IA de gama alta y bajo consumo, así como una conectividad más rápida y fiable para mejorar las capacidades de computación. Cada uno de los chips móviles 5G de MediaTek incorpora actualmente APU diseñadas para ejecutar diversas funciones de IA generativa, como la reducción de ruido, la mejora de la resolución y otras.

Además, el procesador insignia de próxima generación de MediaTek, cuyo lanzamiento se espera para finales de este año, contará con una pila de software optimizada para ejecutar Llama 2, junto con una APU mejorada con aceleración de núcleo Transformer, menor uso de área y ancho de banda de DRAM, y un rendimiento aún mayor de LLM y AIGC. Estos avances facilitan el rápido desarrollo de casos de uso de IA generativa en el dispositivo.

MediaTek espera que las aplicaciones de IA basadas en Llama 2 estén disponibles en smartphones equipados con su SoC insignia de próxima generación, que se espera que llegue al mercado a finales de este año.

Fuente: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html