MediaTek nutzt Metas Llama 2-Plattform zur Verbesserung generativer KI

SGGPO 25.08.2023 10:37

MediaTek, ein globales Halbleiterunternehmen, hat angekündigt, dass es eng mit Metas Llama 2 zusammenarbeitet, dem Open-Source-Large Language Model (LLM) der nächsten Generation des Unternehmens.

MediaTek zielt darauf ab, ein komplettes Edge-Computing-Ökosystem aufzubauen

Mithilfe von Metas LLM sowie MediaTeks neuesten APUs und der NeuroPilot-KI-Plattform möchte MediaTek ein komplettes Edge-Computing-Ökosystem aufbauen, das die Entwicklung von KI-Anwendungen für Smartphones, IoT, Fahrzeuge, Smart Homes und andere Edge-Computing-Geräte beschleunigen soll.

Derzeit erfolgt die Verarbeitung generativer KI größtenteils über Cloud Computing. Durch die Verwendung der Llama 2-Modelle von MediaTek können jedoch generative KI-Anwendungen direkt auf dem Gerät ausgeführt werden.

Dies bietet Entwicklern und Benutzern zahlreiche Vorteile, darunter reibungslose Leistung, verbesserten Datenschutz, mehr Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Arbeitsfähigkeit in Bereichen mit geringer oder keiner Konnektivität und niedrigere Betriebskosten.

Um die generative KI-Technologie auf Edge-Computing-Geräten wirklich nutzen zu können, müssen die Hersteller von Edge-Computing-Geräten High-End-KI-Prozessoren mit geringem Stromverbrauch sowie eine schnellere und zuverlässigere Konnektivität einsetzen, um die Rechenleistung zu verbessern. Jeder 5G-Mobilchip von MediaTek ist heute mit APUs ausgestattet, die für die Ausführung einer Vielzahl generativer KI-Funktionen wie KI-Rauschunterdrückung, KI-Auflösungsverbesserung usw. ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiff-Prozessor der nächsten Generation, der voraussichtlich noch in diesem Jahr auf den Markt kommt, über einen optimierten Software-Stack zur Ausführung von Llama 2 sowie eine verbesserte APU mit Transformer-Core-Beschleunigung verfügen, wodurch der DRAM-Zugriffsbereich und die Bandbreitennutzung reduziert und die LLM- und AIGC-Leistung weiter verbessert werden. Diese Fortschritte erleichtern die schnelle Entwicklung von Anwendungsfällen für generative KI auf Geräten.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit seinem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html