MediaTek, Meta의 Llama 2 플랫폼을 활용해 생성 AI 강화

[광고_1]

SGGPO 2023년 8월 25일 오전 10시 37분

글로벌 반도체 기업인 미디어텍은 메타(Meta)의 차세대 오픈소스 대규모 프로그래밍 언어(LLM)인 라마 2(Llama 2)와 긴밀히 협력하고 있다고 발표했습니다.

미디어텍은 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.

미디어텍은 메타의 LLM과 미디어텍의 최신 APU, 그리고 뉴로파일럿 AI 플랫폼을 활용하여 스마트폰, IoT, 차량, 스마트 홈 및 기타 엣지 컴퓨팅 장치 전반에 걸쳐 AI 애플리케이션 개발을 촉진하도록 설계된 완벽한 엣지 컴퓨팅 생태계를 구축하는 것을 목표로 합니다.

현재 대부분의 생성형 AI 처리는 클라우드 컴퓨팅을 통해 이루어지고 있습니다. 그러나 미디어텍의 Llama 2 모델을 사용하면 생성형 AI 애플리케이션을 기기에서 직접 실행할 수 있게 됩니다.

이는 개발자와 사용자에게 더욱 원활한 성능, 향상된 개인 정보 보호, 강화된 보안 및 안정성, 낮은 지연 시간, 연결이 거의 또는 전혀 없는 지역에서의 작업 용이성 향상, 그리고 운영 비용 절감 등 여러 가지 이점을 제공합니다.

엣지 컴퓨팅 장치에서 AI 생성 기술을 진정으로 활용하려면 엣지 컴퓨팅 장치 제조업체는 고성능 저전력 AI 프로세서와 더욱 빠르고 안정적인 연결성을 채택하여 컴퓨팅 기능을 향상시켜야 합니다. 현재 미디어텍에서 제공하는 모든 5G 모바일 칩에는 AI 기반 노이즈 감소 및 AI 기반 해상도 향상과 같은 다양한 AI 생성 기능을 수행하도록 설계된 APU가 탑재되어 있습니다.

또한, 올해 말 출시 예정인 미디어텍의 차세대 플래그십 프로세서는 Llama 2 실행에 최적화된 소프트웨어 스택과 Transformer 코어 가속 기능을 갖춘 업그레이드된 APU, 최소화된 액세스 영역 및 DRAM 대역폭 사용량, 그리고 더욱 향상된 LLM 및 AIGC 성능을 특징으로 합니다. 이러한 발전은 온디바이스 AI 생성 활용 사례의 빠른 개발을 촉진합니다.

미디어텍은 라마 2 기반 AI 애플리케이션이 올해 말 출시될 것으로 예상되는 차세대 플래그십 SoC를 탑재한 스마트폰에서 사용 가능할 것으로 기대하고 있습니다.

[광고_2]
원천