MediaTek ใช้แพลตฟอร์ม Llama 2 ของ Meta เพื่อเพิ่มประสิทธิภาพ AI เชิงสร้างสรรค์

ส.ก.ป. 25/08/2023 10:37 น.

MediaTek บริษัทเซมิคอนดักเตอร์ระดับโลก ได้ประกาศว่าบริษัทกำลังทำงานอย่างใกล้ชิดกับ Llama 2 ของ Meta ซึ่งเป็นโมเดลภาษาโอเพ่นซอร์สขนาดใหญ่ (LLM) รุ่นถัดไปของบริษัท

MediaTek มุ่งสร้างระบบนิเวศการประมวลผลแบบ Edge ที่สมบูรณ์แบบ

MediaTek ตั้งเป้าที่จะสร้างระบบนิเวศการประมวลผลแบบเอจที่สมบูรณ์ ซึ่งออกแบบมาเพื่อเร่งการพัฒนาแอปพลิเคชัน AI บนสมาร์ทโฟน IoT ยานพาหนะ บ้านอัจฉริยะ และอุปกรณ์การประมวลผลแบบเอจอื่นๆ โดยใช้ LLM ของ Meta รวมถึง APU ล่าสุดของ MediaTek และแพลตฟอร์ม NeuroPilot AI

ปัจจุบัน การประมวลผล Generative AI ส่วนใหญ่ดำเนินการผ่านระบบคลาวด์ อย่างไรก็ตาม การใช้โมเดล Llama 2 ของ MediaTek จะช่วยให้แอปพลิเคชัน Generative AI สามารถทำงานบนอุปกรณ์ได้โดยตรง

สิ่งนี้มอบผลประโยชน์มากมายให้กับนักพัฒนาและผู้ใช้ รวมถึงประสิทธิภาพที่ราบรื่น ความเป็นส่วนตัวที่เพิ่มขึ้น ความปลอดภัยและความน่าเชื่อถือที่มากขึ้น ความหน่วงที่ต่ำลง ความสามารถในการทำงานในพื้นที่ที่มีการเชื่อมต่อน้อยหรือไม่มีเลยที่เพิ่มขึ้น และต้นทุนการดำเนินการที่ต่ำลง

เพื่อใช้ประโยชน์จาก AI แบบสร้างสรรค์ (generative AI) บนอุปกรณ์เอดจ์คอมพิวติ้งอย่างแท้จริง ผู้ผลิตอุปกรณ์เอดจ์จะต้องนำโปรเซสเซอร์ AI ระดับไฮเอนด์ที่ใช้พลังงานต่ำ รวมถึงการเชื่อมต่อที่รวดเร็วและเชื่อถือได้มากขึ้นมาใช้ เพื่อยกระดับขีดความสามารถในการประมวลผล ปัจจุบันชิปมือถือ 5G ของ MediaTek แต่ละตัวมาพร้อมกับ APU ที่ออกแบบมาเพื่อใช้งานฟีเจอร์ AI แบบสร้างสรรค์ที่หลากหลาย เช่น การลดสัญญาณรบกวน AI การปรับปรุงความละเอียด AI และอื่นๆ

นอกจากนี้ โปรเซสเซอร์เรือธงรุ่นใหม่ของ MediaTek ซึ่งคาดว่าจะเปิดตัวในปลายปีนี้ จะมาพร้อมกับซอฟต์แวร์สแต็กที่ปรับแต่งให้เหมาะสมที่สุดสำหรับรัน Llama 2 พร้อมด้วย APU ที่ได้รับการอัปเกรดพร้อมการเร่งความเร็วแกนประมวลผล Transformer ลดการใช้พื้นที่ DRAM และแบนด์วิดท์ และเพิ่มประสิทธิภาพ LLM และ AIGC ให้ดียิ่งขึ้น ความก้าวหน้าเหล่านี้ช่วยอำนวยความสะดวกในการพัฒนากรณีการใช้งาน AI เชิงสร้างสรรค์บนอุปกรณ์ได้อย่างรวดเร็ว

MediaTek คาดว่าแอปพลิเคชัน AI ที่ใช้ Llama 2 จะพร้อมใช้งานบนสมาร์ทโฟนที่ติดตั้ง SoC เรือธงรุ่นใหม่ ซึ่งคาดว่าจะออกสู่ตลาดในช่วงปลายปีนี้

แหล่งที่มา