MediaTek använder Metas Llama 2-plattform för att förbättra AI-genereringen.

SGGPO 25 augusti 2023 10:37

MediaTek, det globala halvledarföretaget, har just meddelat att de samarbetar nära med Metas Llama 2, företagets nästa generations öppen källkodsspråk för storskaliga programmeringsspråk (LLM).

MediaTek strävar efter att bygga ett komplett ekosystem för edge computing.

Genom att utnyttja Metas LLM, såväl som MediaTeks senaste APU:er och NeuroPilot AI-plattform, strävar MediaTek efter att bygga ett komplett ekosystem för edge computing utformat för att driva utvecklingen av AI-applikationer för smartphones, IoT, fordon, smarta hem och andra edge computing-enheter.

För närvarande sker den mesta generativa AI-bearbetningen via molntjänster. Genom att använda MediaTeks Llama 2-modeller kan generativa AI-applikationer köras direkt på enheter.

Detta erbjuder flera fördelar för utvecklare och användare, inklusive smidigare prestanda, förbättrad integritet, större säkerhet och tillförlitlighet, lägre latens, ökad användbarhet i områden med liten eller ingen anslutning och lägre driftskostnader.

För att verkligen kunna utnyttja AI-generativ teknik på edge computing-enheter måste tillverkare av edge computing-enheter använda högpresterande, strömsnåla AI-processorer och snabbare och mer tillförlitlig anslutning för att förbättra datorkapaciteten. Varje 5G-mobilchip som för närvarande erbjuds av MediaTek är utrustat med APU:er utformade för att utföra en mängd olika AI-generativa funktioner, såsom AI-driven brusreducering och AI-driven upplösningsförbättring.

Dessutom kommer MediaTeks nästa generations flaggskeppsprocessor, som förväntas introduceras senare i år, att ha en programvarustack optimerad för att köra Llama 2, tillsammans med en uppgraderad APU med Transformer-kärnacceleration, minimerad åtkomstarea och DRAM-bandbreddsanvändning, samt ytterligare förbättrad LLM- och AIGC-prestanda. Dessa framsteg underlättar snabb utveckling av användningsfall för AI-generering på enheter.

MediaTek förväntar sig att AI-applikationer baserade på Llama 2 kommer att finnas tillgängliga på smartphones utrustade med nästa generations flaggskepps-SoC, som förväntas lanseras senare i år.

Källa: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html