MediaTek usa a plataforma Llama 2 da Meta para aprimorar a IA generativa

SGGPO 25 de agosto de 2023 10:37

A MediaTek, empresa global de semicondutores, anunciou que está trabalhando em estreita colaboração com o Llama 2 da Meta, o modelo de linguagem grande (LLM) de código aberto de próxima geração da empresa.

A MediaTek pretende construir um ecossistema completo de computação de ponta

Usando o LLM da Meta, bem como as mais recentes APUs e a plataforma NeuroPilot AI da MediaTek, a MediaTek pretende construir um ecossistema de computação de ponta completo, projetado para acelerar o desenvolvimento de aplicativos de IA em smartphones, IoT, veículos, casas inteligentes e outros dispositivos de computação de ponta.

Atualmente, a maior parte do processamento de IA generativa é feito pela nuvem. No entanto, o uso dos modelos Llama 2 da MediaTek permitirá que aplicativos de IA generativa sejam executados diretamente no dispositivo.

Isso oferece uma série de benefícios para desenvolvedores e usuários, incluindo desempenho suave, privacidade aprimorada, mais segurança e confiabilidade, menor latência, maior capacidade de trabalhar em áreas com pouca ou nenhuma conectividade e menores custos operacionais.

Para realmente aproveitar a IA generativa em dispositivos de computação de ponta, os fabricantes de dispositivos de ponta precisarão adotar processadores de IA de baixo consumo e alta performance, além de conectividade mais rápida e confiável para aprimorar os recursos de computação. Cada um dos chips móveis 5G da MediaTek atualmente é equipado com APUs projetadas para executar uma variedade de recursos de IA generativa, como redução de ruído de IA, aprimoramento de resolução de IA e muito mais.

Além disso, o processador principal de próxima geração da MediaTek, com lançamento previsto para o final deste ano, contará com um conjunto de software otimizado para executar o Llama 2, juntamente com uma APU atualizada com aceleração de núcleo Transformer, redução da área de DRAM e do uso de largura de banda, além de desempenho LLM e AIGC ainda mais aprimorado. Esses avanços facilitam o rápido desenvolvimento de casos de uso de IA generativa em dispositivos.

A MediaTek espera que os aplicativos de IA baseados no Llama 2 estejam disponíveis em smartphones equipados com seu principal SoC de próxima geração, previsto para chegar ao mercado ainda este ano.

Fonte: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html