MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung der generativen KI

SGGPO 25. August 2023, 10:37 Uhr

MediaTek, der globale Halbleiterkonzern, hat bekannt gegeben, dass er eng mit Meta's Llama 2 zusammenarbeitet, dem Open-Source-Sprachmodell der nächsten Generation für große Sprachen (LLM) des Unternehmens.

MediaTek hat sich zum Ziel gesetzt, ein vollständiges Edge-Computing-Ökosystem aufzubauen.

Mithilfe von Metas LLM sowie MediaTeks neuesten APUs und der NeuroPilot AI-Plattform will MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen auf Smartphones, IoT-Geräten, Fahrzeugen, Smart Homes und anderen Edge-Computing-Geräten beschleunigen soll.

Aktuell erfolgt die Verarbeitung generativer KI größtenteils über die Cloud. Die Verwendung der Llama-2-Modelle von MediaTek ermöglicht es jedoch, generative KI-Anwendungen direkt auf dem Gerät auszuführen.

Dies bietet Entwicklern und Nutzern eine Reihe von Vorteilen, darunter reibungslose Performance, verbesserte Privatsphäre, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, bessere Arbeitsmöglichkeiten in Gebieten mit geringer oder gar keiner Internetverbindung sowie niedrigere Betriebskosten.

Um das Potenzial generativer KI auf Edge-Computing-Geräten voll auszuschöpfen, benötigen Hersteller von Edge-Geräten leistungsstarke, energieeffiziente KI-Prozessoren und schnellere, zuverlässigere Verbindungen zur Steigerung der Rechenleistung. Jeder der heutigen 5G-Mobilchips von MediaTek ist mit APUs ausgestattet, die für verschiedene generative KI-Funktionen wie KI-Rauschunterdrückung, KI-Auflösungsverbesserung und mehr ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiffprozessor der nächsten Generation, dessen Vorstellung für später in diesem Jahr erwartet wird, über einen optimierten Software-Stack für Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung, reduziertem DRAM-Flächen- und Bandbreitenverbrauch und weiter verbesserter LLM- und AIGC-Leistung verfügen. Diese Fortschritte ermöglichen die rasche Entwicklung von On-Device-Anwendungen für generative KI.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit dem Flaggschiff-SoC der nächsten Generation ausgestattet sind, der voraussichtlich noch in diesem Jahr auf den Markt kommen wird.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html