MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung generativer KI

SGGPO 25.08.2023 10:37

MediaTek, ein globales Halbleiterunternehmen, hat angekündigt, dass es eng mit Metas Llama 2 zusammenarbeitet, dem Open-Source-Large Language Model (LLM) der nächsten Generation des Unternehmens.

MediaTek zielt darauf ab, ein komplettes Edge-Computing-Ökosystem aufzubauen

Mithilfe von Metas LLM sowie MediaTeks neuesten APUs und der NeuroPilot-KI-Plattform möchte MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen für Smartphones, IoT, Fahrzeuge, Smart Homes und andere Edge-Computing-Geräte beschleunigen soll.

Derzeit erfolgt die Verarbeitung generativer KI größtenteils über die Cloud. Mit den Llama 2-Modellen von MediaTek können generative KI-Anwendungen jedoch direkt auf dem Gerät ausgeführt werden.

Dies bietet Entwicklern und Benutzern zahlreiche Vorteile, darunter reibungslose Leistung, verbesserten Datenschutz, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Arbeitsfähigkeit in Bereichen mit geringer oder keiner Konnektivität und niedrigere Betriebskosten.

Um generative KI auf Edge-Computing-Geräten wirklich nutzen zu können, müssen Hersteller von Edge-Geräten hochwertige, stromsparende KI-Prozessoren sowie schnellere und zuverlässigere Konnektivität einsetzen, um die Rechenleistung zu verbessern. Jeder der aktuellen 5G-Mobilchips von MediaTek ist mit APUs ausgestattet, die für eine Vielzahl generativer KI-Funktionen entwickelt wurden, wie z. B. KI-Rauschunterdrückung, KI-Auflösungsverbesserung und mehr.

Darüber hinaus wird MediaTeks Flaggschiff-Prozessor der nächsten Generation, der voraussichtlich noch in diesem Jahr auf den Markt kommt, über einen optimierten Software-Stack für Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung, reduziertem DRAM-Bereich und Bandbreitenbedarf sowie einer weiter verbesserten LLM- und AIGC-Leistung verfügen. Diese Fortschritte ermöglichen die schnelle Entwicklung von generativen KI-Anwendungsfällen auf Geräten.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit seinem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html