MediaTek gebruikt Meta's Llama 2-platform om generatieve AI te verbeteren

SGGPO 25-08-2023 10:37

MediaTek, een wereldwijd halfgeleiderbedrijf, heeft aangekondigd dat het nauw gaat samenwerken met Llama 2 van Meta, het volgende generatie open source grote taalmodel (LLM) van het bedrijf.

MediaTek wil een compleet edge computing-ecosysteem bouwen

Met behulp van Meta's LLM, de nieuwste APU's en het NeuroPilot AI-platform van MediaTek wil MediaTek een compleet edge computing-ecosysteem bouwen dat is ontworpen om de ontwikkeling van AI-toepassingen voor smartphones, IoT, voertuigen, slimme huizen en andere edge computing-apparaten te versnellen.

Momenteel vindt de meeste generatieve AI-verwerking plaats via de cloud. Met de Llama 2-modellen van MediaTek kunnen generatieve AI-toepassingen echter rechtstreeks op het apparaat worden uitgevoerd.

Dit biedt een aantal voordelen voor ontwikkelaars en gebruikers, waaronder soepele prestaties, verbeterde privacy, meer beveiliging en betrouwbaarheid, lagere latentie, meer mogelijkheden om te werken in gebieden met weinig of geen connectiviteit en lagere operationele kosten.

Om generatieve AI echt te benutten op edge computing-apparaten, zullen fabrikanten van edge-apparaten geavanceerde, energiezuinige AI-processors en snellere, betrouwbaardere connectiviteit moeten implementeren om de rekenkracht te verbeteren. Elk van MediaTeks 5G mobiele chips is tegenwoordig uitgerust met APU's die zijn ontworpen om diverse generatieve AI-functies uit te voeren, zoals AI-ruisonderdrukking, AI-resolutieverbetering en meer.

Bovendien zal MediaTeks volgende-generatie vlaggenschipprocessor, die naar verwachting later dit jaar wordt geïntroduceerd, beschikken over een geoptimaliseerde softwarestack voor Llama 2, samen met een verbeterde APU met Transformer-kernversnelling, een lager DRAM-oppervlak en bandbreedtegebruik, en verder verbeterde LLM- en AIGC-prestaties. Deze ontwikkelingen vergemakkelijken de snelle ontwikkeling van generatieve AI-use cases op het apparaat.

MediaTek verwacht dat AI-toepassingen op basis van Llama 2 beschikbaar zullen zijn op smartphones met de volgende generatie SoC, die later dit jaar op de markt moet komen.

Bron: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html