MediaTek Menggunakan Platform Llama 2 Meta untuk Meningkatkan AI Generatif

SGGPO 25 Ogos 2023 10:37

MediaTek, syarikat semikonduktor global, telah mengumumkan bahawa ia bekerjasama rapat dengan Meta's Llama 2, model bahasa besar (LLM) sumber terbuka generasi akan datang syarikat itu.

MediaTek bertujuan untuk membina ekosistem pengkomputeran kelebihan yang lengkap

Menggunakan LLM Meta serta platform APU dan NeuroPilot AI terbaharu MediaTek, MediaTek menyasarkan untuk membina ekosistem pengkomputeran tepi lengkap yang direka bentuk untuk mempercepatkan pembangunan aplikasi AI merentas telefon pintar, IoT, kenderaan, rumah pintar dan peranti pengkomputeran tepi yang lain.

Pada masa ini, kebanyakan pemprosesan AI generatif dilakukan melalui awan. Walau bagaimanapun, menggunakan model Llama 2 MediaTek akan membolehkan aplikasi AI generatif berjalan terus pada peranti.

Ini menawarkan beberapa faedah untuk pembangun dan pengguna, termasuk prestasi lancar, privasi dipertingkatkan, lebih keselamatan dan kebolehpercayaan, kependaman yang lebih rendah, peningkatan keupayaan untuk bekerja di kawasan yang mempunyai sedikit atau tiada sambungan dan kos operasi yang lebih rendah.

Untuk benar-benar memanfaatkan AI generatif pada peranti pengkomputeran edge, pembuat peranti edge perlu menggunakan pemproses AI canggih, berkuasa rendah dan sambungan yang lebih pantas dan lebih dipercayai untuk meningkatkan keupayaan pengkomputeran. Setiap cip mudah alih 5G MediaTek hari ini dilengkapi dengan APU yang direka untuk melaksanakan pelbagai ciri AI generatif, seperti pengurangan hingar AI, peningkatan resolusi AI dan banyak lagi.

Selain itu, pemproses perdana generasi akan datang MediaTek, dijangka akan diperkenalkan pada akhir tahun ini, akan menampilkan susunan perisian yang dioptimumkan untuk menjalankan Llama 2, bersama-sama dengan APU yang dinaik taraf dengan pecutan teras Transformer, mengurangkan kawasan DRAM dan penggunaan lebar jalur, serta meningkatkan lagi prestasi LLM dan AIGC. Kemajuan ini memudahkan perkembangan pesat kes penggunaan AI generatif pada peranti.

MediaTek menjangkakan aplikasi AI berasaskan Llama 2 akan tersedia pada telefon pintar yang dilengkapi dengan SoC perdana generasi akan datang, dijangka memasuki pasaran akhir tahun ini.

Sumber: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html