MediaTek gebruikt Meta's Llama 2-platform om generatieve AI te verbeteren

SGGPO 25 augustus 2023 10:37

MediaTek, het wereldwijde halfgeleiderbedrijf, heeft aangekondigd dat het nauw gaat samenwerken met Llama 2 van Meta, het volgende generatie open-source grote taalmodel (LLM) van het bedrijf.

MediaTek streeft ernaar een compleet edge computing-ecosysteem te bouwen

Met behulp van Meta's LLM, de nieuwste APU's en het NeuroPilot AI-platform van MediaTek wil MediaTek een compleet edge computing-ecosysteem bouwen dat is ontworpen om de ontwikkeling van AI-toepassingen voor smartphones, IoT, voertuigen, slimme huizen en andere edge computing-apparaten te versnellen.

Momenteel vindt de meeste generatieve AI-verwerking plaats via de cloud. Met de Llama 2-modellen van MediaTek kunnen generatieve AI-toepassingen echter rechtstreeks op het apparaat worden uitgevoerd.

Dit biedt een aantal voordelen voor ontwikkelaars en gebruikers, waaronder soepele prestaties, verbeterde privacy, meer beveiliging en betrouwbaarheid, lagere latentie, meer mogelijkheden om te werken in gebieden met weinig of geen connectiviteit en lagere operationele kosten.

Om echt te profiteren van generatieve AI op edge computing-apparaten, zullen fabrikanten van edge-apparaten geavanceerde, energiezuinige AI-processors en snellere, betrouwbaardere connectiviteit moeten implementeren om de rekenkracht te verbeteren. Elke 5G mobiele chip van MediaTek is tegenwoordig uitgerust met APU's die zijn ontworpen om diverse generatieve AI-functies uit te voeren, zoals AI-ruisonderdrukking, AI-resolutieverbetering en meer.

Bovendien zal MediaTeks volgende generatie vlaggenschipprocessor, die naar verwachting later dit jaar wordt geïntroduceerd, beschikken over een geoptimaliseerde softwarestack voor Llama 2, samen met een verbeterde APU met Transformer-kernversnelling, een lager DRAM-oppervlak en bandbreedtegebruik, en verder verbeterde LLM- en AIGC-prestaties. Deze ontwikkelingen vergemakkelijken de snelle ontwikkeling van on-device generatieve AI-use cases.

MediaTek verwacht dat AI-toepassingen op basis van Llama 2 beschikbaar zullen zijn op smartphones met de volgende generatie SoC, die later dit jaar op de markt moet komen.

Bron: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html