MediaTek nutzt die Llama 2-Plattform von Meta zur Verbesserung der KI-Generierung.

SGGPO 25. August 2023, 10:37 Uhr

MediaTek, der globale Halbleiterkonzern, hat soeben bekannt gegeben, dass er eng mit Metas Llama 2 zusammenarbeitet, der Open-Source-Programmiersprache der nächsten Generation für große Projekte (LLM) des Unternehmens.

MediaTek hat sich zum Ziel gesetzt, ein vollständiges Edge-Computing-Ökosystem aufzubauen.

MediaTek nutzt Metas LLM sowie MediaTeks neueste APUs und die NeuroPilot KI-Plattform, um ein komplettes Edge-Computing-Ökosystem aufzubauen, das die Entwicklung von KI-Anwendungen auf Smartphones, IoT-Geräten, Fahrzeugen, Smart Homes und anderen Edge-Computing-Geräten vorantreiben soll.

Aktuell erfolgt die Verarbeitung generativer KI größtenteils über Cloud-Computing. Die Verwendung der Llama-2-Modelle von MediaTek wird es jedoch ermöglichen, generative KI-Anwendungen direkt auf Geräten auszuführen.

Dies bietet Entwicklern und Nutzern zahlreiche Vorteile, darunter eine reibungslosere Performance, verbesserte Privatsphäre, höhere Sicherheit und Zuverlässigkeit, geringere Latenz, verbesserte Arbeitsfähigkeit in Gebieten mit geringer oder gar keiner Konnektivität sowie niedrigere Betriebskosten.

Um die Möglichkeiten generativer KI-Technologien auf Edge-Computing-Geräten voll auszuschöpfen, müssen Hersteller leistungsstarke, energieeffiziente KI-Prozessoren und schnellere, zuverlässigere Verbindungen einsetzen, um die Rechenleistung zu steigern. Jeder der aktuell von MediaTek angebotenen 5G-Mobilfunkchips ist mit APUs ausgestattet, die für verschiedene KI-generierende Funktionen wie KI-gestützte Rauschunterdrückung und KI-gestützte Auflösungsverbesserung ausgelegt sind.

Darüber hinaus wird MediaTeks Flaggschiffprozessor der nächsten Generation, dessen Vorstellung für später in diesem Jahr erwartet wird, über einen für Llama 2 optimierten Software-Stack sowie eine verbesserte APU mit Transformer-Core-Beschleunigung, minimiertem Zugriffsbereich und reduzierter DRAM-Bandbreitennutzung sowie weiter verbesserter LLM- und AIGC-Leistung verfügen. Diese Fortschritte ermöglichen die rasche Entwicklung von Anwendungsfällen für die KI-Generierung direkt auf dem Gerät.

MediaTek geht davon aus, dass KI-Anwendungen auf Basis von Llama 2 auf Smartphones verfügbar sein werden, die mit dem Flaggschiff-SoC der nächsten Generation ausgestattet sind und voraussichtlich noch in diesem Jahr auf den Markt kommen werden.

Quelle: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html