MediaTek använder Metas Llama 2-plattform för att förbättra generativ AI

SGGPO 2023-08-25 10:37

MediaTek, ett globalt halvledarföretag, har meddelat att de samarbetar nära med Metas Llama 2, företagets nästa generations stora språkmodell (LLM) med öppen källkod.

MediaTek siktar på att bygga ett komplett ekosystem för Edge Computing

Med hjälp av Metas LLM samt MediaTeks senaste APU:er och NeuroPilot AI-plattform strävar MediaTek efter att bygga ett komplett ekosystem för edge computing utformat för att accelerera utveckling av AI-applikationer för smartphones, IoT, fordon, smarta hem och andra edge computing-enheter.

För närvarande sker den mesta generativa AI-bearbetningen via molnet. Genom att använda MediaTeks Llama 2-modeller kan dock generativa AI-applikationer köras direkt på enheten.

Detta erbjuder ett antal fördelar för utvecklare och användare, inklusive smidig prestanda, förbättrad integritet, mer säkerhet och tillförlitlighet, lägre latens, ökad förmåga att arbeta i områden med liten eller ingen anslutning och lägre driftskostnader.

För att verkligen kunna utnyttja generativ AI på edge computing-enheter måste tillverkare av edge-enheter använda avancerade, strömsnåla AI-processorer och snabbare och mer tillförlitlig anslutning för att förbättra datorkapaciteten. Var och en av MediaTeks 5G-mobilchip är idag utrustad med APU:er utformade för att utföra en mängd olika generativa AI-funktioner, såsom AI-brusreducering, AI-upplösningsförbättring med mera.

Dessutom kommer MediaTeks nästa generations flaggskeppsprocessor, som förväntas introduceras senare i år, att ha en optimerad programvarustack för att köra Llama 2, tillsammans med en uppgraderad APU med Transformer-kärnacceleration, minskad DRAM-area och bandbreddsanvändning, samt ytterligare förbättrad LLM- och AIGC-prestanda. Dessa framsteg underlättar snabb utveckling av användningsfall för generativ AI på enheter.

MediaTek förväntar sig att Llama 2-baserade AI-applikationer kommer att finnas tillgängliga på smartphones utrustade med nästa generations flaggskepps-SoC, som förväntas komma ut på marknaden senare i år.

Källa: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html