MediaTek, Meta의 Llama 2 플랫폼을 활용해 생성 AI 강화

SGGPO 2023년 8월 25일 10시 37분

글로벌 반도체 회사인 미디어텍(MediaTek)은 자사의 차세대 오픈소스 대규모 언어 모델(LLM)인 Meta의 Llama 2와 긴밀히 협력하고 있다고 발표했습니다.

미디어텍, 완벽한 엣지 컴퓨팅 생태계 구축 목표

MediaTek은 Meta의 LLM과 MediaTek의 최신 APU 및 NeuroPilot AI 플랫폼을 사용하여 스마트폰, IoT, 차량, 스마트 홈 및 기타 엣지 컴퓨팅 장치에서 AI 애플리케이션 개발을 가속화하도록 설계된 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.

현재 대부분의 생성 AI 처리는 클라우드를 통해 이루어집니다. 그러나 MediaTek의 Llama 2 모델을 사용하면 생성 AI 애플리케이션을 기기에서 직접 실행할 수 있습니다.

이를 통해 개발자와 사용자는 원활한 성능, 향상된 개인정보 보호, 보안 및 안정성 강화, 지연 시간 단축, 연결성이 거의 없거나 전혀 없는 지역에서도 작업 능력 향상, 운영 비용 절감 등 다양한 이점을 얻을 수 있습니다.

엣지 컴퓨팅 기기에서 생성적 AI를 진정으로 활용하려면 엣지 기기 제조업체는 고성능 저전력 AI 프로세서와 더 빠르고 안정적인 연결성을 도입하여 컴퓨팅 성능을 향상시켜야 합니다. 현재 MediaTek의 모든 5G 모바일 칩에는 AI 노이즈 감소, AI 해상도 향상 등 다양한 생성적 AI 기능을 수행하도록 설계된 APU가 탑재되어 있습니다.

또한, 올해 말 출시 예정인 미디어텍의 차세대 플래그십 프로세서는 Llama 2를 구동하도록 최적화된 소프트웨어 스택과 함께, 트랜스포머 코어 가속 기능을 갖춘 업그레이드된 APU, DRAM 공간 및 대역폭 사용량 감소, 그리고 더욱 향상된 LLM 및 AIGC 성능을 제공할 예정입니다. 이러한 발전은 온디바이스 생성 AI 활용 사례의 신속한 개발을 촉진합니다.

MediaTek은 Llama 2 기반 AI 애플리케이션이 올해 말에 출시될 예정인 차세대 플래그십 SoC가 장착된 스마트폰에서 사용 가능할 것으로 기대하고 있습니다.

원천: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html