MediaTek ใช้แพลตฟอร์ม Llama 2 ของ Meta เพื่อเพิ่มประสิทธิภาพการประมวลผล AI

ส.ก.ป. 25/08/2023 10:37 น.

MediaTek บริษัทเซมิคอนดักเตอร์ระดับโลก ได้ประกาศว่าบริษัทกำลังทำงานอย่างใกล้ชิดกับ Llama 2 ของ Meta ซึ่งเป็นโมเดลภาษาโอเพ่นซอร์สขนาดใหญ่ (LLM) รุ่นถัดไปของบริษัท

MediaTek มุ่งหวังที่จะสร้างระบบนิเวศการประมวลผลแบบ Edge ที่สมบูรณ์

MediaTek มีเป้าหมายที่จะสร้างระบบนิเวศการประมวลผลแบบเอจที่สมบูรณ์ซึ่งออกแบบมาเพื่อเร่งการพัฒนาแอปพลิเคชัน AI บนสมาร์ทโฟน IoT ยานพาหนะ บ้านอัจฉริยะ และอุปกรณ์ประมวลผลแบบเอจอื่นๆ โดยใช้ LLM ของ Meta รวมถึง APU ล่าสุดของ MediaTek และแพลตฟอร์ม NeuroPilot AI

ปัจจุบันการประมวลผล Generative AI ส่วนใหญ่ทำผ่านระบบคลาวด์ อย่างไรก็ตาม การใช้โมเดล Llama 2 ของ MediaTek จะช่วยให้แอปพลิเคชัน Generative AI สามารถทำงานบนอุปกรณ์ได้โดยตรง

สิ่งนี้มอบผลประโยชน์มากมายให้กับนักพัฒนาและผู้ใช้ รวมถึงประสิทธิภาพที่ราบรื่น ความเป็นส่วนตัวที่เพิ่มขึ้น ระบบความปลอดภัยและความน่าเชื่อถือที่มากขึ้น ความหน่วงเวลาที่ต่ำกว่า ความสามารถในการทำงานในพื้นที่ที่มีการเชื่อมต่อน้อยหรือไม่มีเลยมากขึ้น และต้นทุนการดำเนินงานที่ต่ำลง

เพื่อใช้ประโยชน์จาก AI เชิงสร้างสรรค์บนอุปกรณ์คอมพิวเตอร์เอจอย่างแท้จริง ผู้ผลิตอุปกรณ์เอจจะต้องนำโปรเซสเซอร์ AI ระดับไฮเอนด์ที่ใช้พลังงานต่ำและการเชื่อมต่อที่รวดเร็วและเชื่อถือได้มากขึ้นมาใช้เพื่อปรับปรุงความสามารถในการประมวลผล ชิปมือถือ 5G ของ MediaTek ในปัจจุบันแต่ละตัวมาพร้อมกับ APU ที่ออกแบบมาเพื่อทำงานคุณสมบัติ AI เชิงสร้างสรรค์ต่างๆ เช่น การลดสัญญาณรบกวนของ AI การปรับปรุงความละเอียดของ AI และอื่นๆ

นอกจากนี้ โปรเซสเซอร์เรือธงรุ่นต่อไปของ MediaTek ซึ่งคาดว่าจะเปิดตัวในช่วงปลายปีนี้ จะมีซอฟต์แวร์สแตกที่ได้รับการปรับให้เหมาะสมเพื่อรัน Llama 2 พร้อมด้วย APU ที่ได้รับการอัปเกรดพร้อมการเร่งความเร็วแกน Transformer พื้นที่ DRAM และการใช้แบนด์วิดท์ที่ลดลง และประสิทธิภาพ LLM และ AIGC ที่ได้รับการปรับปรุงให้ดียิ่งขึ้น ความก้าวหน้าเหล่านี้ช่วยให้การพัฒนาเคสการใช้งาน AI เชิงสร้างสรรค์บนอุปกรณ์รวดเร็วขึ้น

MediaTek คาดว่าแอปพลิเคชัน AI ที่ใช้ Llama 2 จะพร้อมใช้งานบนสมาร์ทโฟนที่ติดตั้ง SoC เรือธงรุ่นใหม่ ซึ่งคาดว่าจะออกสู่ตลาดในช่วงปลายปีนี้

แหล่งที่มา