MediaTek Menggunakan Platform Llama 2 Meta untuk Meningkatkan AI Generatif

SGGPO 25/08/2023 10:37

MediaTek, perusahaan semikonduktor global, telah mengumumkan kerja samanya yang erat dengan Llama 2 milik Meta, model bahasa besar (LLM) sumber terbuka generasi berikutnya milik perusahaan tersebut.

MediaTek Bertujuan Membangun Ekosistem Komputasi Tepi yang Lengkap

Dengan menggunakan LLM Meta serta APU terbaru MediaTek dan platform NeuroPilot AI, MediaTek bertujuan untuk membangun ekosistem komputasi tepi lengkap yang dirancang untuk mempercepat pengembangan aplikasi AI di seluruh telepon pintar, IoT, kendaraan, rumah pintar, dan perangkat komputasi tepi lainnya.

Saat ini, sebagian besar pemrosesan AI Generatif dilakukan melalui cloud. Namun, penggunaan model Llama 2 dari MediaTek akan memungkinkan aplikasi AI Generatif berjalan langsung di perangkat.

Hal ini menawarkan sejumlah manfaat bagi pengembang dan pengguna, termasuk kinerja yang lancar, privasi yang ditingkatkan, keamanan dan keandalan yang lebih baik, latensi yang lebih rendah, peningkatan kemampuan untuk bekerja di area dengan sedikit atau tanpa konektivitas, dan biaya pengoperasian yang lebih rendah.

Untuk benar-benar memanfaatkan AI generatif pada perangkat komputasi tepi, produsen perangkat tepi perlu mengadopsi prosesor AI canggih berdaya rendah serta konektivitas yang lebih cepat dan andal untuk meningkatkan kemampuan komputasi. Setiap chip seluler 5G MediaTek saat ini dilengkapi dengan APU yang dirancang untuk menjalankan berbagai fitur AI generatif, seperti pengurangan noise AI, peningkatan resolusi AI, dan lainnya.

Selain itu, prosesor unggulan generasi berikutnya dari MediaTek, yang diperkirakan akan diperkenalkan akhir tahun ini, akan dilengkapi tumpukan perangkat lunak yang dioptimalkan untuk menjalankan Llama 2, beserta APU yang ditingkatkan dengan akselerasi inti Transformer, pengurangan area DRAM dan penggunaan bandwidth, serta peningkatan kinerja LLM dan AIGC. Kemajuan ini memfasilitasi pengembangan pesat kasus penggunaan AI generatif pada perangkat.

MediaTek memperkirakan aplikasi AI berbasis Llama 2 akan tersedia pada telepon pintar yang dilengkapi dengan SoC andalan generasi berikutnya, yang diharapkan hadir di pasaran akhir tahun ini.

Sumber: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html