A MediaTek a Meta Llama 2 platformját használja a generatív mesterséges intelligencia fejlesztésére

SGGPO 2023. augusztus 25. 10:37

A MediaTek, a globális félvezetőgyártó vállalat bejelentette, hogy szorosan együttműködik a Meta Llama 2-jével, a vállalat következő generációs, nyílt forráskódú nagy nyelvi modelljével (LLM).

A MediaTek egy teljes edge computing ökoszisztéma kiépítését tűzte ki célul.

A Meta LLM programját, valamint a MediaTek legújabb APU-it és a NeuroPilot mesterséges intelligencia platformját felhasználva a MediaTek egy teljes edge computing ökoszisztémát kíván kiépíteni, amelynek célja a mesterséges intelligencia alkalmazásfejlesztés felgyorsítása okostelefonokon, IoT-n, járművekben, okosotthonokban és más edge computing eszközökön.

Jelenleg a generatív MI-feldolgozás nagy része a felhőn keresztül történik. A MediaTek Llama 2 modelljeinek használata azonban lehetővé teszi a generatív MI-alkalmazások közvetlen futtatását az eszközön.

Ez számos előnnyel jár a fejlesztők és a felhasználók számára, beleértve a zökkenőmentes teljesítményt, a fokozott adatvédelmet, a nagyobb biztonságot és megbízhatóságot, az alacsonyabb késleltetést, a kevés vagy semmilyen internetkapcsolattal nem rendelkező területeken való munkavégzés fokozott képességét, valamint az alacsonyabb üzemeltetési költségeket.

Ahhoz, hogy valóban kihasználhassák a generatív mesterséges intelligencia előnyeit a peremhálózati számítástechnikai eszközökön, a peremhálózati eszközgyártóknak csúcskategóriás, alacsony fogyasztású MI-processzorokat és gyorsabb, megbízhatóbb csatlakozást kell alkalmazniuk a számítási képességek növelése érdekében. A MediaTek 5G mobil chipjeinek mindegyike APU-kkal van felszerelve, amelyeket különféle generatív MI-funkciók végrehajtására terveztek, mint például a MI-zajcsökkentés, a MI-felbontás javítása és egyebek.

Ezenkívül a MediaTek következő generációs zászlóshajó processzora, amelyet várhatóan még idén bemutatnak, egy optimalizált szoftvercsomagot fog tartalmazni a Llama 2 futtatásához, valamint egy továbbfejlesztett APU-t Transformer maggyorsítással, csökkentett DRAM-területtel és sávszélesség-használattal, valamint továbbfejlesztett LLM és AIGC teljesítménnyel. Ezek a fejlesztések elősegítik az eszközökön belüli generatív mesterséges intelligencia használati esetek gyors fejlesztését.

A MediaTek arra számít, hogy a Llama 2-n alapuló mesterséges intelligencia alkalmazások elérhetőek lesznek a következő generációs zászlóshajó SoC-vel felszerelt okostelefonokon, amelyek várhatóan még idén megjelennek a piacon.

Forrás: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html