MediaTek folosește platforma Llama 2 de la Meta pentru a îmbunătăți inteligența artificială generativă

SGGPO 25 august 2023, ora 10:37

MediaTek, compania globală de semiconductori, a anunțat că lucrează îndeaproape cu Llama 2 de la Meta, modelul de limbaj mare (LLM) open-source de generație următoare al companiei.

MediaTek își propune să construiască un ecosistem complet de edge computing

Folosind LLM-ul de la Meta, precum și cele mai recente APU-uri și platforma de inteligență artificială NeuroPilot de la MediaTek, MediaTek își propune să construiască un ecosistem complet de edge computing, conceput pentru a accelera dezvoltarea aplicațiilor de inteligență artificială pe smartphone-uri, IoT, vehicule, case inteligente și alte dispozitive de edge computing.

În prezent, cea mai mare parte a procesării generative de inteligență artificială se face prin cloud. Cu toate acestea, utilizarea modelelor Llama 2 de la MediaTek va permite aplicațiilor generative de inteligență artificială să ruleze direct pe dispozitiv.

Acest lucru oferă o serie de beneficii pentru dezvoltatori și utilizatori, inclusiv performanță fluidă, confidențialitate îmbunătățită, mai multă securitate și fiabilitate, latență mai mică, capacitate sporită de a lucra în zone cu conectivitate puțină sau deloc și costuri de operare mai mici.

Pentru a profita cu adevărat de inteligența artificială generativă pe dispozitivele de edge computing, producătorii de dispozitive vor trebui să adopte procesoare AI de înaltă performanță, cu consum redus de energie, și conectivitate mai rapidă și mai fiabilă pentru a îmbunătăți capacitățile de calcul. Fiecare dintre cipurile mobile 5G MediaTek este echipat astăzi cu APU-uri concepute pentru a îndeplini o varietate de funcții AI generative, cum ar fi reducerea zgomotului AI, îmbunătățirea rezoluției AI și multe altele.

În plus, procesorul emblematic de generație următoare de la MediaTek, așteptat să fie lansat la sfârșitul acestui an, va dispune de un pachet software optimizat pentru a rula Llama 2, împreună cu un APU îmbunătățit cu accelerare a nucleului Transformer, utilizare redusă a suprafeței DRAM și a lățimii de bandă și performanțe LLM și AIGC îmbunătățite suplimentar. Aceste progrese facilitează dezvoltarea rapidă a cazurilor de utilizare a inteligenței artificiale generative pe dispozitiv.

MediaTek se așteaptă ca aplicațiile de inteligență artificială bazate pe Llama 2 să fie disponibile pe smartphone-urile echipate cu SoC-ul său emblematic de generație următoare, care se așteaptă să apară pe piață la sfârșitul acestui an.

Sursă