MediaTek använder Metas Llama 2-plattform för att förbättra generativ AI

SGGPO 25 augusti 2023 10:37

MediaTek, det globala halvledarföretaget, har meddelat att de samarbetar nära med Metas Llama 2, företagets nästa generations öppna källkodsmodell för stora språk (LLM).

MediaTek siktar på att bygga ett komplett ekosystem för edge computing

Med hjälp av Metas LLM samt MediaTeks senaste APU:er och NeuroPilot AI-plattform strävar MediaTek efter att bygga ett komplett ekosystem för edge computing utformat för att accelerera utveckling av AI-applikationer för smartphones, IoT, fordon, smarta hem och andra edge computing-enheter.

För närvarande sker den mesta generativa AI-bearbetningen via molnet. Genom att använda MediaTeks Llama 2-modeller kan generativa AI-applikationer köras direkt på enheten.

Detta erbjuder ett antal fördelar för utvecklare och användare, inklusive smidig prestanda, förbättrad integritet, mer säkerhet och tillförlitlighet, lägre latens, ökad förmåga att arbeta i områden med liten eller ingen anslutning och lägre driftskostnader.

För att verkligen dra nytta av generativ AI på edge computing-enheter måste tillverkare av edge-enheter använda avancerade, strömsnåla AI-processorer och snabbare och mer tillförlitlig anslutning för att förbättra datorkapaciteten. Var och en av MediaTeks 5G-mobilchip är idag utrustad med APU:er utformade för att utföra en mängd olika generativa AI-funktioner, såsom AI-brusreducering, AI-upplösningsförbättring med mera.

Dessutom kommer MediaTeks nästa generations flaggskeppsprocessor, som förväntas introduceras senare i år, att ha en optimerad programvarustack för att köra Llama 2, tillsammans med en uppgraderad APU med Transformer-kärnacceleration, minskad DRAM-area och bandbreddsanvändning, samt ytterligare förbättrad LLM- och AIGC-prestanda. Dessa framsteg underlättar snabb utveckling av generativa AI-användningsfall på enheter.

MediaTek förväntar sig att Llama 2-baserade AI-applikationer kommer att finnas tillgängliga på smartphones utrustade med nästa generations flaggskepps-SoC, som förväntas komma ut på marknaden senare i år.

Källa: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html