MediaTek bruker Metas Llama 2-plattform for å forbedre AI-generering.

SGGPO 25. august 2023 kl. 10:37

MediaTek, det globale halvlederselskapet, har nettopp annonsert at de samarbeider tett med Metas Llama 2, selskapets neste generasjons åpen kildekode-programmeringsspråk (LLM).

MediaTek har som mål å bygge et komplett økosystem for edge computing.

Ved å utnytte Metas LLM, samt MediaTeks nyeste APU-er og NeuroPilot AI-plattform, har MediaTek som mål å bygge et komplett økosystem for edge computing designet for å drive utviklingen av AI-applikasjoner på tvers av smarttelefoner, IoT, kjøretøy, smarthus og andre edge computing-enheter.

For tiden gjøres mesteparten av generativ AI-prosessering gjennom skytjenester. Bruk av MediaTeks Llama 2-modeller vil imidlertid tillate generative AI-applikasjoner å kjøre direkte på enheter.

Dette gir flere fordeler for utviklere og brukere, inkludert jevnere ytelse, forbedret personvern, større sikkerhet og pålitelighet, lavere ventetid, økt arbeidsevne i områder med liten eller ingen tilkobling og lavere driftskostnader.

For å virkelig utnytte AI-generativ teknologi på edge computing-enheter, må produsenter av edge computing-enheter ta i bruk høytytende, lavstrøms AI-prosessorer og raskere og mer pålitelig tilkobling for å forbedre databehandlingskapasiteten. Hver 5G-mobilbrikke som MediaTek for tiden tilbyr, er utstyrt med APU-er som er designet for å utføre en rekke AI-generative funksjoner, for eksempel AI-drevet støyreduksjon og AI-drevet oppløsningsforbedring.

I tillegg vil MediaTeks neste generasjons flaggskipprosessor, som forventes introdusert senere i år, ha en programvarestabel optimalisert for å kjøre Llama 2, sammen med en oppgradert APU med Transformer-kjerneakselerasjon, minimert tilgangsområde og DRAM-båndbreddebruk, og ytterligere forbedret LLM- og AIGC-ytelse. Disse fremskrittene legger til rette for rask utvikling av brukstilfeller for generering av AI på enheten.

MediaTek forventer at AI-applikasjoner basert på Llama 2 vil være tilgjengelige på smarttelefoner utstyrt med neste generasjons flaggskip-SoC, som forventes å bli lansert senere i år.

Kilde: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html