MediaTek、MetaのLlama 2プラットフォームを活用し、生成AIを強化

[広告1]

SGGPO 2023年8月25日午前10時37分

世界的な半導体企業である MediaTek は、同社の次世代オープンソース大規模プログラミング言語 (LLM) である Meta の Llama 2 と緊密に協力していると発表した。

MediaTek は完全なエッジコンピューティングエコシステムの構築を目指しています。

MediaTek は、Meta の LLM と MediaTek の最新 APU、NeuroPilot AI プラットフォームを活用して、スマートフォン、IoT、車両、スマートホーム、その他のエッジコンピューティングデバイスにわたる AI アプリケーションの開発を推進するように設計された完全なエッジコンピューティングエコシステムの構築を目指しています。

現在、生成AI処理のほとんどはクラウドコンピューティングを介して行われています。しかし、MediaTekのLlama 2モデルを使用することで、生成AIアプリケーションをデバイス上で直接実行できるようになります。

これにより、開発者とユーザーには、パフォーマンスの向上、プライバシーの強化、セキュリティと信頼性の向上、レイテンシの低減、接続性がほとんどまたはまったくないエリアでの作業性の向上、運用コストの削減など、さまざまなメリットがもたらされます。

エッジコンピューティングデバイスでAI生成技術を真に活用するには、エッジコンピューティングデバイスメーカーは、高性能で低消費電力のAIプロセッサと、より高速で信頼性の高い接続性を採用し、コンピューティング能力を強化する必要があります。MediaTekが現在提供している5Gモバイルチップには、AIを活用したノイズ低減や解像度向上など、様々なAI生成機能を実行するために設計されたAPUが搭載されています。

さらに、今年後半に発表予定のMediaTekの次世代フラッグシッププロセッサは、Llama 2の実行に最適化されたソフトウェアスタックに加え、Transformerコアアクセラレーションを搭載したアップグレードされたAPU、アクセス領域とDRAM帯域幅の最小化、そしてLLMとAIGC性能のさらなる向上を実現します。これらの進歩により、デバイス上でのAI生成のためのユースケースの迅速な開発が促進されます。

MediaTekは、Llama 2をベースにしたAIアプリケーションが、今年後半に発売される予定の次世代フラッグシップSoCを搭載したスマートフォンで利用できるようになると予想している。

[広告2]
ソース