MediaTek wykorzystuje platformę Llama 2 firmy Meta w celu udoskonalenia generowania sztucznej inteligencji.

SGGPO 25 sierpnia 2023, 10:37

MediaTek, globalna firma produkująca półprzewodniki, właśnie ogłosiła, że ​​nawiązuje bliską współpracę z Llama 2 firmy Meta, najnowszym językiem programowania wielkoskalowego (LLM) o otwartym kodzie źródłowym opracowanym przez tę firmę.

MediaTek stawia sobie za cel zbudowanie kompletnego ekosystemu przetwarzania brzegowego.

Wykorzystując studia LLM firmy Meta, a także najnowsze procesory APU firmy MediaTek i platformę sztucznej inteligencji NeuroPilot, MediaTek zamierza zbudować kompletny ekosystem przetwarzania brzegowego, zaprojektowany w celu wspierania rozwoju aplikacji sztucznej inteligencji na smartfonach, w Internecie rzeczy, pojazdach, inteligentnych domach i innych urządzeniach przetwarzania brzegowego.

Obecnie większość generatywnego przetwarzania AI odbywa się w chmurze obliczeniowej. Jednak wykorzystanie modeli Llama 2 firmy MediaTek umożliwi uruchamianie generatywnych aplikacji AI bezpośrednio na urządzeniach.

Rozwiązanie to oferuje szereg korzyści deweloperom i użytkownikom, w tym płynniejszą pracę, lepszą prywatność, większe bezpieczeństwo i niezawodność, mniejsze opóźnienia, większą funkcjonalność w obszarach o słabym lub zerowym dostępie do łączności oraz niższe koszty operacyjne.

Aby w pełni wykorzystać generatywną technologię AI w urządzeniach edge computing, producenci urządzeń edge computing będą musieli wdrożyć wydajne, energooszczędne procesory AI oraz szybszą i bardziej niezawodną łączność, aby zwiększyć możliwości obliczeniowe. Każdy mobilny układ scalony 5G oferowany obecnie przez MediaTek jest wyposażony w układy APU zaprojektowane do realizacji szeregu funkcji generatywnych AI, takich jak redukcja szumów wspomagana przez AI i poprawa rozdzielczości wspomagana przez AI.

Dodatkowo, flagowy procesor MediaTek nowej generacji, którego premiera planowana jest na koniec tego roku, będzie wyposażony w pakiet oprogramowania zoptymalizowany pod kątem obsługi Llama 2, a także ulepszony układ APU z akceleracją rdzenia Transformer, zminimalizowanym obszarem dostępu i wykorzystaniem przepustowości pamięci DRAM oraz jeszcze lepszą wydajnością LLM i AIGC. Te udoskonalenia ułatwią szybkie opracowywanie zastosowań dla generowania sztucznej inteligencji na urządzeniach.

MediaTek spodziewa się, że aplikacje AI bazujące na Llama 2 będą dostępne na smartfonach wyposażonych w flagowy układ SoC nowej generacji, których premiera planowana jest na koniec roku.

Źródło: https://www.sggp.org.vn/mediatek-su-dung-nen-tang-llama-2-cua-meta-de-nang-cao-ai-tao-sinh-post703005.html